Auge de los asistentes de codificación AI: Beneficios y desafíos
El evento «AI Unleashed» de VentureBeat, dirigido a líderes empresariales en el campo de los datos, ha destacado una tendencia creciente en el uso de asistentes de codificación AI por parte de los equipos DevOps. Esta herramienta se está utilizando cada vez más para impulsar la productividad. Sin embargo, su adopción también plantea preocupaciones sobre posibles fallas en el código AI y los riesgos de seguridad asociados.
Predicciones y riesgos para 2024
Según las predicciones de Forrester para 2024, las prácticas inconsistentes de cumplimiento y gobernanza podrían provocar fallas en el código AI. Se espera que al menos tres violaciones sean admitidas públicamente debido a código AI defectuoso. Además, los riesgos de seguridad API debido a fallas en el código AI son una preocupación creciente.
El uso creciente de asistentes de codificación AI en organizaciones es parte del fenómeno conocido como Shadow IT. Gartner predice que para 2028, el 75% de los ingenieros de software empresarial utilizarán asistentes de codificación AI. El uso múltiple y simultáneo de estos asistentes en equipos DevOps es cada vez más común.
Desafíos para los CISOs y la necesidad del equilibrio
Para los CISOs, 2024 presentará desafíos significativos. Tendrán que equilibrar las ganancias de productividad con la necesidad de mayor cumplimiento, gobernanza y seguridad. El cumplimiento será crucial para proteger la propiedad intelectual y se necesitará una medición más precisa del equilibrio entre innovación, cumplimiento y gobernanza.
El objetivo final es lograr ganancias en innovación con una reducción del riesgo. Existe una necesidad urgente de obtener el cumplimiento, la gobernanza y las protecciones correctas para los nuevos modelos AI y ML. La transición segura de la experimentación a la implementación de nuevas tecnologías basadas en AI será esencial.
Las predicciones específicas para 2024 incluyen un aumento de los ataques de ingeniería social mediante el uso de AI generativa. Se espera un endurecimiento de los estándares de las aseguradoras cibernéticas, marcando a dos proveedores tecnológicos como alto riesgo. Una aplicación basada en ChatGPT podría ser multada por manejo inadecuado de información personal identificable (PII). Además, se espera una duplicación de roles y títulos de confianza cero a nivel senior en los sectores público y privado global.
Conclusión
La misión de VentureBeat es ser una plaza digital para que los tomadores de decisiones técnicas adquieran conocimientos sobre tecnología empresarial transformadora. En este sentido, eventos como «AI Unleashed» son fundamentales para mantenerse al día con las tendencias emergentes y los desafíos asociados en el mundo de la inteligencia artificial.
Clara es creadora y editora de contenidos, con una sólida formación en ciencias y una especialización en inteligencia artificial. Su pasión por este campo en constante evolución la ha llevado a adquirir los conocimientos necesarios para comprender y comunicar los avances más recientes en este campo. Con su experiencia y habilidades en la redacción y edición de contenidos, Clara es capaz de transmitir de manera clara y efectiva conceptos complejos relacionados con la inteligencia artificial y de esta manera hacerlos accesibles para todo tipo de audiencias.
