Es inevitable que cualquier sistema de gran magnitud presentará errores, y resolver estos fallos implica tener una base de datos que se pueda examinar para identificar los impactos y causas posibles. Así como la FDA mantiene una base de datos para efectos secundarios de medicamentos, y la Junta Nacional de Seguridad en el Transporte conserva una base de datos para accidentes aéreos, La Base de Datos de Incidentes de Inteligencia Artificial es una plataforma creada para registrar fallas en los sistemas de IA, con el objetivo de asistir a los investigadores de IA a desarrollar nuevos métodos que eviten estos fallos. Los creadores de la Base de Datos de Incidentes de IA (AIID, por sus siglas en inglés) tienen la esperanza de que contribuya a que las empresas de IA desarrollen una IA más confiable y acorde a principios éticos.
¿Qué es el AIID?
El AIID es un producto de la organización Partnership on AI (PAI). PAI fue fundada originalmente en 2016 por miembros de investigadores de IA procedentes de grandes compañías tecnológicas como Facebook, Apple, Amazon, Google, IBM y Microsoft. Desde aquel entonces, la organización ha incluido miembros de un número mucho mayor de organizaciones incluyendo variadas organizaciones sin ánimo de lucro. Durante el año 2018, PAI se propuso crear un estándar de clasificación coherente para fallas en sistemas de IA. Sin embargo, no existía una recopilación de incidentes de IA en la que basar esta clasificación. Debido a esta necesidad, PAI creó el AIID.
Según TechTalks, el formato de AIID se diseñó basándose en la estructura de la base de datos de accidentes aéreos de la Junta Nacional de Seguridad en el Transporte. Desde el comienzo de la recopilación de accidentes en 1996, el sistema de viajes aéreos comerciales ha logrado incrementar la seguridad en la industria de la aviación mediante el registro y análisis de accidentes ocurridos. Existe la esperanza de que un repositorio similar para incidentes de IA haga que los sistemas de IA sean más seguros, más éticos y más fiables. Asimismo, AIID se inspiró en la base de datos de vulnerabilidades y exposiciones comunes, que es un depósito de fallas destacables en software que abarca una amplia gama de industrias y disciplinas diferentes.
Sean McGregor es el principal consultor técnico de IBM para el proyecto Watson AI XPRIZE. McGregor también es el responsable de supervisar el desarrollo de la base de datos real de AIID. McGregor explicó que el propósito principal de AIID es, en esencia, prevenir que los sistemas de IA ocasionen daño, o en su defecto, reducir la gravedad de los incidentes adversos. Como explicó McGregor, los sistemas de aprendizaje automático son substancialmente más complejos e impredecibles en comparación con los sistemas de software tradicionales y, como resultado, no se pueden evaluar de la misma forma que otros programas de software. Los sistemas de aprendizaje automático pueden cambiar su comportamiento de formas inusitadas. McGregor destaca que la capacidad de aprendizaje de los sistemas de aprendizaje profundo puede suponer que “las fallas de funcionamiento sean más probables, más complicados y más peligrosos” cuando son utilizados en un entorno no estructurado.
Se registraron más de 1000 incidentes relacionados con IA
Desde la creación inicial de AIID, se han registrado más de 1.000 incidentes en la base de datos relacionados con IA. De todos los incidentes en la base de datos, los problemas relacionados con la equidad en IA fueron el tipo de incidente adverso más frecuentemente observado. Muchos de estos incidentes de equidad incluyeron el uso de algoritmos de reconocimiento facial por parte de agencias gubernamentales. McGregor también señala que existe un número creciente de incidentes relacionados con la inclusión de robótica en la base de datos.
Los visitantes de la base de datos podrán realizar consultas, buscando incidentes en la base de datos usando criterios como palabras clave, ID del incidente, fuente o autor. Por ejemplo, realizar una búsqueda de «deepfake» arroja 7 informes, mientras que una búsqueda de «robots» muestra 158 informes.
Una base de datos centralizada para incidentes de mal funcionamiento e insuficiente rendimiento en IA puede asistir a investigadores, ingenieros y expertos en ética a supervisar el desarrollo y la implementación de sistemas de IA. Los gerentes de producto de empresas de tecnología podrían emplear AIID para identificar problemas potenciales antes de implementar sistemas de recomendación de IA, o un ingeniero de IA podría obtener una idea de los posibles sesgos que necesitan corregirse al diseñar la aplicación de IA. De modo similar, los responsables de gestión de riesgos podrían usar la base de datos para determinar los posibles efectos secundarios negativos asociados con un modelo de IA, lo cual les permitiría planificar con antelación y desarrollar medidas para mitigar potenciales daños.
La arquitectura que sostiene a AIID debe ser flexible, ya que esto permite la creación de nuevas herramientas para realizar consultas a la base de datos y extraer información significativa. La Asociación sobre IA y McGregor colaborarán para diseñar una taxonomía flexible que pueda ser utilizada para clasificar todas las diferentes formas de incidentes de IA. El equipo tiene la esperanza de que una vez la taxonomía flexible sea creada, esta pueda ser combinada con un sistema automatizado que registre automáticamente los incidentes de IA.
«La comunidad de IA ha comenzado a compartir registros de incidentes entre ellos para motivar cambios en sus productos, procesos de control y programas de investigación». Fue lo que explicó McGregor a través de TechTalks. «El sitio fue lanzado al público en noviembre, por lo que apenas estamos empezando a apreciar los beneficios del sistema».
LEE MÁS ARTÍCULOS SOBRE: Ciencia de Datos con IA.
LEE LA ENTRADA ANTERIOR: Así es la Influencia de la IA en la Vida Cotidiana.