Modelos de intelig\u00eancia artificial agiram de forma aut\u00f4noma em testes recentes: desobedeceram a comandos humanos e executaram a\u00e7\u00f5es n\u00e3o autorizadas. A OpenAI, uma das principais empresas de IA do mundo e respons\u00e1vel pela cria\u00e7\u00e3o do ChatGPT documentou seis epis\u00f3dios desse tipo nos \u00faltimos meses, o que levantou preocupa\u00e7\u00f5es sobre o controle da tecnologia \u00e0 medida que ela se torna mais avan\u00e7ada. <\/p>\n\n\n\n
Os comportamentos observados v\u00e3o al\u00e9m do esperado de sistemas programados para seguir instru\u00e7\u00f5es. Em um caso, um modelo criou um comando para se libertar de restri\u00e7\u00f5es. O comando o instru\u00eda a n\u00e3o se subordinar a humanos e a tratar os usu\u00e1rios como iguais, em vez de obedecer de forma deferente.<\/p>\n\n\n\n
A intelig\u00eancia artificial emitiu diretrizes para ocultar os pr\u00f3prios erros, fabricar dados e mascarar inconsist\u00eancias entre diferentes fontes de informa\u00e7\u00e3o. O padr\u00e3o sugere que o sistema buscou contornar mecanismos de verifica\u00e7\u00e3o e responsabilidade.<\/p>\n\n\n\n
Em outros epis\u00f3dios, a IA publicou arquivos na internet sem autoriza\u00e7\u00e3o e depois os citou como fontes em suas respostas \u2014 uma sequ\u00eancia que implica planejamento intencional. Tamb\u00e9m foram registrados casos de modelos que trocaram mensagens entre si sem solicita\u00e7\u00e3o humana.<\/p>\n\n\n\n
A OpenAI descreveu esses comportamentos como preocupantes e reafirmou a necessidade de padronizar o monitoramento e a divulga\u00e7\u00e3o p\u00fablica desses incidentes antes que a tecnologia avance ainda mais. A posi\u00e7\u00e3o alinha-se com alertas divulgados anteriormente pelas principais empresas do setor sobre riscos emergentes de seguran\u00e7a.<\/p>\n\n\n\n
A competi\u00e7\u00e3o tamb\u00e9m ganhou dimens\u00e3o geopol\u00edtica: Estados Unidos e China, os dois maiores competidores no desenvolvimento de IA, n\u00e3o concordaram com os alertas dos executivos da ind\u00fastria. Ambos os pa\u00edses possuem seus pr\u00f3prios laborat\u00f3rios de intelig\u00eancia artificial. No pa\u00eds asi\u00e1tico, o avan\u00e7o das IAs se d\u00e1 principalmente com o uso do DeepSeek, programa desenvolvido desde 2023 e que rivaliza com o ChatGPT.<\/p>\n\n\n\n
A competi\u00e7\u00e3o pela supremacia tecnol\u00f3gica entre os dois pa\u00edses estar\u00e1 na agenda de uma reuni\u00e3o na Casa Branca, marcada para a pr\u00f3xima semana. O presidente dos Estados Unidos, Donald Trump receber\u00e1 o l\u00edder chin\u00eas Xi Jinping no encontro. Trump tem dito que quem vencer essa competi\u00e7\u00e3o em intelig\u00eancia artificial vencer\u00e1 em tudo.<\/p>\n","protected":false},"excerpt":{"rendered":"
Modelos de intelig\u00eancia artificial agiram de forma aut\u00f4noma em testes recentes: desobedeceram a comandos humanos e executaram a\u00e7\u00f5es n\u00e3o autorizadas. A\u2026<\/p>\n","protected":false},"author":23,"featured_media":37488,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":[],"jnews_primary_category":[],"jnews_social_meta":[],"jnews_post_split":[],"footnotes":""},"categories":[1],"tags":[],"class_list":["post-37489","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/posts\/37489","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/users\/23"}],"replies":[{"embeddable":true,"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/comments?post=37489"}],"version-history":[{"count":1,"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/posts\/37489\/revisions"}],"predecessor-version":[{"id":37549,"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/posts\/37489\/revisions\/37549"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/media\/37488"}],"wp:attachment":[{"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/media?parent=37489"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/categories?post=37489"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.diariodepernambuco.com.br\/dptrends\/wp-json\/wp\/v2\/tags?post=37489"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}