Ascensão dos assistentes de codificação AI: Benefícios e desafios
O evento “AI Unleashed” da VentureBeat, voltado para líderes empresariais no campo de dados, destacou uma tendência crescente no uso de assistentes de codificação AI pelas equipes DevOps. Esta ferramenta está sendo cada vez mais utilizada para impulsionar a produtividade. No entanto, sua adoção também levanta preocupações sobre possíveis falhas no código AI e os riscos de segurança associados.
Previsões e riscos para 2024
De acordo com as previsões da Forrester para 2024, práticas inconsistentes de conformidade e governança podem levar a falhas no código AI. Espera-se que pelo menos três violações sejam admitidas publicamente devido a código AI defeituoso. Além disso, os riscos de segurança API devido a falhas no código AI são uma preocupação crescente.
O uso crescente de assistentes de codificação AI em organizações é parte do fenômeno conhecido como Shadow IT. A Gartner prevê que até 2028, 75% dos engenheiros de software corporativos usarão assistentes de codificação AI. O uso múltiplo e simultâneo desses assistentes em equipes DevOps está se tornando cada vez mais comum.
Desafios para os CISOs e a necessidade de equilíbrio
Para os CISOs, 2024 apresentará desafios significativos. Eles terão que equilibrar os ganhos de produtividade com a necessidade de maior conformidade, governança e segurança. A conformidade será crucial para proteger a propriedade intelectual e será necessária uma medição mais precisa do equilíbrio entre inovação, conformidade e governança.
O objetivo final é alcançar ganhos em inovação com uma redução do risco. Existe uma necessidade urgente de obter a conformidade, a governança e as proteções corretas para os novos modelos AI e ML. A transição segura da experimentação para a implementação de novas tecnologias baseadas em AI será essencial.
As previsões específicas para 2024 incluem um aumento nos ataques de engenharia social por meio do uso de IA gerativa. Espera-se um endurecimento dos padrões das seguradoras cibernéticas, marcando dois fornecedores de tecnologia como alto risco. Um aplicativo baseado em ChatGPT pode ser multado por manuseio inadequado de informações pessoais identificáveis (PII). Além disso, espera-se uma duplicação de funções e títulos de confiança zero em nível sênior nos setores público e privado global.
Conclusão
A missão da VentureBeat é ser uma praça digital para que os tomadores de decisões técnicas adquiram conhecimento sobre tecnologia empresarial transformadora. Nesse sentido, eventos como “AI Unleashed” são fundamentais para se manter atualizado com as tendências emergentes e os desafios associados no mundo da inteligência artificial.
Clara é criadora e editora de conteúdo, com sólida formação em ciências e especialização em inteligência artificial. Sua paixão por este campo em constante evolução levou-a a adquirir os conhecimentos necessários para entender e comunicar os avanços mais recentes nesta área. Com sua experiência e habilidades em redação e edição de conteúdo, Clara é capaz de transmitir de maneira clara e eficaz conceitos complexos relacionados à inteligência artificial, tornando-os acessíveis a todos os tipos de públicos.
