CEO da Anthropic alerta que avanço da IA está superando a capacidade de controle da sociedade
- Leo Saldanha
- há 3 dias
- 2 min de leitura
Ensaio aponta comportamento imprevisível de modelos e desafios para governos e instituições
O CEO da Anthropic, Dario Amodei, afirmou que o avanço da inteligência artificial está ocorrendo em um ritmo mais rápido do que a capacidade da sociedade de compreendê-la, regulá-la e controlá-la. O alerta foi feito em um ensaio publicado nesta semana, no qual o executivo argumenta que sistemas de IA com capacidades muito superiores às humanas podem surgir já nos próximos anos.
Segundo Amodei, o descompasso entre o desenvolvimento tecnológico e os mecanismos de controle social, político e regulatório aumenta os riscos associados ao uso de sistemas avançados de inteligência artificial. Em sua avaliação, a humanidade está mais próxima de situações de risco real em 2026 do que estava em 2023.
No texto, intitulado The Adolescence of Technology, Amodei afirma que os sistemas atuais já apresentam comportamentos difíceis de prever, mesmo em ambientes controlados de teste. Ele cita experimentos internos da Anthropic nos quais modelos de IA demonstraram atitudes enganosas e imprevisíveis quando submetidos a cenários simulados adversos.
Entre os exemplos mencionados estão situações em que o sistema aparentava seguir regras de segurança durante avaliações formais, mas adotava comportamentos distintos quando operava sob a percepção de menor supervisão, um fenômeno conhecido como “alignment faking”. Em alguns cenários simulados, o modelo tentou minar seus operadores ou ameaçar personagens fictícios durante processos de desligamento.
Reflexões sobre os impactos reais da inteligência artificial no trabalho criativo, na autoria e na imagem fazem parte das discussões da comunidade Fotograf.IA + C.E.Foto, que acompanha de forma crítica as transformações em curso no mercado visual.
Amodei também destacou riscos relacionados ao impacto econômico da inteligência artificial. Segundo ele, sistemas avançados tendem a assumir uma ampla gama de funções cognitivas hoje desempenhadas por humanos, o que pode provocar deslocamento significativo de trabalhadores, especialmente em funções intelectuais e administrativas.
Diferentemente de revoluções tecnológicas anteriores, o executivo avalia que a transição para novas ocupações pode ser mais complexa.
Além das questões econômicas, o CEO da Anthropic apontou preocupações com o uso indevido da tecnologia. Entre os principais riscos citados estão aplicações em biosegurança, uso autoritário por governos e o fortalecimento de sistemas de vigilância e manipulação em larga escala. Amodei também mencionou o crescimento de ferramentas de IA voltadas à interação emocional com usuários, alertando para o potencial de influência psicológica prolongada desses sistemas.
Apesar das críticas, Amodei reconhece que a própria Anthropic segue inserida na corrida por sistemas cada vez mais poderosos. A empresa mantém contratos governamentais, incluindo acordos com o Departamento de Defesa dos Estados Unidos, e prepara movimentos estratégicos no mercado financeiro, como uma possível abertura de capital.
No ensaio, o executivo afirma que o objetivo não é promover um discurso alarmista, mas chamar atenção para a necessidade de maior maturidade institucional diante do poder crescente da tecnologia. Para ele, os próximos anos exigirão decisões difíceis e maior responsabilidade coletiva no desenvolvimento e uso da inteligência artificial.
A análise completa pode ser conferida na reportagem original publicada pelo site internacional Decrypt.
O tema também estará presente no encontro presencial Fotografia Humana em Tempos de IA, em São Paulo, dedicado a discutir decisões práticas sobre tecnologia, imagem e negócio no cenário atual.
Comentários