Las empresas tecnológicas deben tomar en serio los riesgos de ciberseguridad
El rápido avance de la inteligencia artificial (IA) ha planteado preocupaciones significativas sobre la ciberseguridad y la necesidad de prevenir daños. En respuesta a las nuevas propuestas de regulación de la IA por parte del gobierno del Reino Unido, Kroll, una firma de evaluación de riesgos financieros y de seguridad, ha instado a las empresas de tecnología a tomar en serio la seguridad cibernética. En lugar de crear un nuevo regulador, el gobierno ha solicitado a los organismos reguladores existentes que asuman poderes sobre el uso de IA en sus respectivos sectores, aunque sin obligación legal de actuar. Esto plantea desafíos en cuanto a la supervisión y regulación efectivas de la IA.
La responsabilidad de las empresas en la gestión de riesgos de la IA
Kate Wojciechzek, directora global de inteligencia de amenazas de Kroll, destaca la responsabilidad de las empresas para ser proactivas en la gestión de los riesgos de la IA. Según Wojciechzek, las empresas deben abordar la seguridad cibernética desde cero, en lugar de verlo como un simple requisito regulatorio. Las herramientas de inteligencia artificial pueden ser utilizadas por piratas informáticos para lanzar ataques altamente dirigidos, como campañas de phishing convincentes. A medida que se desarrollan nuevas herramientas de IA y versiones de código abierto, existe el riesgo de que los piratas informáticos puedan eludir los controles establecidos en los sistemas y utilizar herramientas de IA para superar el control del sistema de IA que desean explotar.
La preocupación por la falta de priorización de la ciberseguridad en el desarrollo de la IA
Existe una preocupación generalizada de que las empresas estén priorizando el desarrollo de la IA de forma acelerada sin tener en cuenta suficientemente la ciberseguridad y el potencial de daño que puede generar. Esto ha llevado a una especie de «carrera armamentista de IA». Grandes empresas como Microsoft y Google están invirtiendo sumas significativas en compañías de IA como OpenAI, creadora de ChatGPT, y están acelerando el lanzamiento de sus propios chatbots. Sin embargo, líderes tecnológicos como Elon Musk han expresado su preocupación y han solicitado una moratoria en el desarrollo de la tecnología para realizar investigaciones y garantizar que los sistemas sean seguros y confiables.
Críticas a la regulación de la IA en el Reino Unido
El enfoque del gobierno del Reino Unido en la regulación de la IA ha sido criticado por no abordar adecuadamente los riesgos asociados. Algunos expertos legales consideran que el enfoque del gobierno ha sido demasiado fácil y ha dejado al Reino Unido en una posición atípica en comparación con otras partes del mundo. La Unión Europea ha propuesto una ley especial para regular la IA, y la Cámara de Comercio de EE. UU. ha pedido una regulación más estricta.
Principios clave en la regulación de la IA en el Reino Unido
El Reino Unido ha establecido cinco principios clave en su enfoque regulatorio de la IA para fortalecer su posición como líder mundial en esta tecnología y garantizar su uso responsable:
- Seguridad, protección y durabilidad.
- Debida transparencia y comprensibilidad.
- Justicia.
- Rendición de cuentas y gobernanza.
- Impugnabilidad e indemnización.
Estos principios buscan asegurar que los sistemas de IA operen de manera segura y que se realice una evaluación constante de los riesgos. También se enfatiza la importancia de comunicar de manera comprensible cómo, cuándo y con qué propósito se utiliza la IA, y se prioriza que las tecnologías de IA no socaven los derechos legales de las personas ni generen discriminación o resultados injustos en el mercado.
La necesidad de una supervisión efectiva y líneas claras de responsabilidad
Es ampliamente aceptado que se deben tomar medidas para garantizar una supervisión efectiva del uso de sistemas de inteligencia artificial, estableciendo líneas claras de responsabilidad. Los usuarios del servicio y otras partes afectadas deben poder cuestionar y modificar las decisiones y resultados generados por la IA. Esto es fundamental para garantizar la confianza en la tecnología y mitigar los riesgos asociados con su implementación.
En conclusión, las empresas tecnológicas deben tomar en serio los riesgos de ciberseguridad asociados con la inteligencia artificial. La falta de priorización de la ciberseguridad en el desarrollo acelerado de la IA puede dar lugar a riesgos significativos. Es necesario que las empresas aborden la seguridad cibernética desde el principio y sean proactivas en la gestión de los riesgos. Además, los gobiernos y los organismos reguladores deben establecer regulaciones efectivas que aborden los riesgos y garanticen una supervisión adecuada de la IA. Solo de esta manera se podrá aprovechar el potencial de la IA de manera responsable y segura, impulsando el crecimiento y la prosperidad sin comprometer la seguridad de las personas y las organizaciones.
LEE MÁS ARTÍCULOS SOBRE: Seguridad con IA.
LEE LA ENTRADA ANTERIOR: Atomic: Asistente de calendario impulsado por IA que ayuda a optimizar tus horarios.