O Altruísmo Eficaz e a Segurança da Inteligência Artificial: Um Debate em Andamento
O movimento do Altruísmo Eficaz (EA) e a política de segurança da Inteligência Artificial (IA) têm estado intimamente ligados nos últimos anos. No entanto, essa abordagem tem suscitado críticas, com argumentos que sustentam que o EA se concentra excessivamente nos riscos existenciais, negligenciando os riscos atuais e quantificáveis da IA.
A Influência do Altruísmo Eficaz na Segurança da IA
Líderes em IA e políticas externas ao movimento EA expressaram sua preocupação sobre o impacto do EA nos esforços para garantir a segurança da IA. Questiona-se se as empresas e políticos externos ao movimento entendem essa influência e suas implicações. O Altruísmo Eficaz mantém vínculos com empresas como Anthropic e RAND Corporation, ambas focadas na segurança da IA. O movimento EA recebeu financiamento de bilionários tecnológicos com o objetivo principal de prevenir uma catástrofe relacionada à IA.
Uma preocupação específica é a segurança dos pesos do modelo LLM (Modelo de Linguagem). Jason Clinton, CISO da Anthropic, juntamente com dois pesquisadores da RAND Corporation, expressaram seu medo de que esses pesos caiam nas mãos erradas, o que poderia ter consequências devastadoras.
Críticas à Abordagem do Altruísmo Efetivo
No entanto, o movimento EA não está isento de críticas. Nick Frosst, co-fundador da Cohere, criticou o foco excessivo do EA nos riscos existenciais. Além disso, o EA é criticado por supor que se pode quantificar o bem que está sendo feito.
Yoav Shoham, co-fundador da AI21 Labs, sustenta que os pesos do modelo não são necessariamente o principal facilitador para atores mal-intencionados. Shoham defende uma atenção responsável ao uso da IA, em vez de alimentar medos infundados.
Marek Posard, da RAND Corporation, considera que os debates filosóficos como o EA são uma distração para a política de IA. Posard defende a diversidade de pensamento na RAND e critica as crenças do EA.
Em contraste com a abordagem do EA, Dan deBeaubien, do SANS Institute, foca mais nos riscos de segurança atuais relacionados ao uso de chatbots LLM.
Mark Beall, ex-chefe de política de IA no Departamento de Defesa dos EUA, enfatiza a necessidade de salvaguardas e políticas sensatas que possam coexistir com as preocupações do EA.
Ian Bremmer, presidente e fundador do Grupo Eurasia, nomeou a ‘IA sem governo’ como um risco geopolítico principal. Bremmer se concentra nos riscos atuais como a desinformação eleitoral e critica o movimento EA por não alinhar a IA com modelos de negócios que não minem a sociedade civil.
Rumo a um Equilíbrio entre Riscos Existenciais e Atuais
Em conclusão, o problema com o Altruísmo Eficaz é que minimiza outros tipos de riscos ao falar do fim do mundo como uma possibilidade realista. É crucial equilibrar as preocupações existenciais com os riscos atuais e mensuráveis para garantir uma política de segurança de IA eficaz e equilibrada.
Clara é criadora e editora de conteúdo, com sólida formação em ciências e especialização em inteligência artificial. Sua paixão por este campo em constante evolução levou-a a adquirir os conhecimentos necessários para entender e comunicar os avanços mais recentes nesta área. Com sua experiência e habilidades em redação e edição de conteúdo, Clara é capaz de transmitir de maneira clara e eficaz conceitos complexos relacionados à inteligência artificial, tornando-os acessíveis a todos os tipos de públicos.
