IA generativa y grandes modelos de lenguaje: Fusionando curiosidad y temor
El universo de la Inteligencia Artificial generativa y los modelos de lenguaje a gran escala, como el ChatGPT, generan una mezcla de exaltación y tecnofobia. Tal mezcla de emociones presenta un patrón repetitivo en la sociedad global: la atracción por lo nuevo contrasta con el temor a lo desconocido. El panorama cambia cuando observamos el surgimiento de una ola de escepticismo en sectores científicos y empresariales, con figuras prominentes convirtiéndose en tecnofóbicas. Un caso representativo es la petición de un grupo de científicos e industriales para poner una moratoria de seis meses a la investigación en IA. Otro ejemplo es el escepticismo expresado por el reconocido científico en IA, el Prof. A. Hinton. Este patrón de resistencia científica recuerda al debate sobre las bombas nucleares durante la Guerra Fría. Afortunadamente, la humanidad ha demostrado capacidad para abordar esta clase de preocupaciones de manera efectiva.
El debate en torno a la actualidad de la IA
Naturalmente, todos tenemos derecho a cuestionar la actualidad de la Inteligencia Artificial. Algunas de las interrogantes más comunes son:[automatic_youtube_gallery type="search" search="La IA y la batalla contra la tecnofobia" cache="2419200" per_page="1" thumb_excerpt="0" player_description="0"]
- La falta de comprensión sobre por qué los modelos de lenguaje a gran escala son tan eficientes y cuáles podrían ser sus limitaciones.
- La preocupación ante la posibilidad de desarrollar ‘bombas de IA’, especialmente si no existe una regulación estatal al respecto.
Estas dudas legítimas alimentan el miedo, incluso entre científicos destacados. Al fin y al cabo, son seres humanos.
El papel ineludible de la IA en nuestra sociedad
La pregunta surge: ¿puede la investigación en IA ser frenada, aunque temporalmente? Mi perspectiva es que no. La IA es la respuesta humana a una sociedad global y un contexto físico de creciente complejidad. Los procesos que incrementan la complejidad física y social parecen incontenibles. En este sentido, la Inteligencia Artificial y la metamorfosis ciudadana son nuestra única esperanza para una transición fluida de la actual Sociedad de la Información a una futura Sociedad del Conocimiento. De lo contrario, podríamos sufrir una implosión social devastadora.
Fortalecer la IA: Un camino para maximizar sus beneficios y reducir sus riesgos
La respuesta está en profundizar nuestra comprensión de los avances de la IA, acelerar su desarrollo, regular su aplicación para aumentar su impacto positivo y minimizar los efectos negativos actuales y potenciales. La investigación en IA puede y debe adoptar un enfoque más abierto, democrático, científico y ético. Para lograr esto, propongo lo siguiente:
- Las decisiones importantes sobre la investigación de IA con un amplio impacto social deberían ser responsabilidad de parlamentos y gobiernos electos, no de empresas o científicos individuales.
- Se deben redoblar los esfuerzos para potenciar los aspectos positivos de la IA en el desarrollo social y económico y reducir sus aspectos negativos.
- El impacto positivo de los sistemas de IA puede superar significativamente los aspectos negativos, siempre que se implementen regulaciones apropiadas. La tecnofobia no está justificada y no ofrece una solución práctica.
- En mi opinión, el peligro más grande actualmente proviene de la posibilidad de que los sistemas de IA engañen a un gran número de personas con poca educación y/o capacidad de investigación. Esta situación puede ser extremadamente perjudicial para la democracia y cualquier forma de progreso socio-económico.
- En el futuro cercano, deberíamos contrarrestar la amenaza que supone el uso de LLM y/o CAN en actividades ilegales (como hacer trampa en los exámenes universitarios).
- Sus efectos en el empleo y los mercados serán muy positivos a mediano y largo plazo.
- Dado lo anterior, los sistemas de IA deberían: a) estar obligados por el derecho internacional a estar registrados en un ‘registro de sistemas de IA’, y b) notificar a sus usuarios que están interactuando con un sistema de IA o utilizando sus resultados.
- Llevando en cuenta el enorme impacto social de los sistemas de IA y con el objetivo de maximizar los beneficios y el progreso socio-económico, las tecnologías avanzadas clave deberían ser abiertas.
- Los datos relacionados con la IA deberían ser democratizados (al menos parcialmente) para maximizar los beneficios y el progreso socioeconómico.
- Deberían existir sólidos esquemas financiero
de compensación que permitan a los pioneros de la tecnología de IA cubrir cualquier pérdida de ganancias, garantizando fuertes inversiones futuras en I+D de IA. - Debería ser reevaluado el equilibrio de investigación en IA entre la academia y la industria para maximizar los resultados de investigación sin afectar la competitividad y recompensar los riesgos asumidos en I+D.
- Las prácticas educativas deben ser revisadas a todos los niveles para maximizar los beneficios de las tecnologías de IA.
- Deberían ser creados y reforzados los mecanismos adecuados de regulación, supervisión y financiación de la IA para garantizar lo anterior.
Muchos de estos puntos son explorados en detalle en mi reciente libro, volumen 4, titulado ‘Ciencia y sociedad de la IA’, particularmente en los volúmenes A (reescrito en mayo de 2023 para cubrir los LLM y la Inteligencia General Artificial) y C.