La Organización Mundial de la Salud (OMS) destaca la importancia de fortalecer las leyes y establecer nuevas regulaciones para mitigar riesgos al crear modelos de IA. En este contexto, nos preguntamos cómo las inversiones públicas pueden contribuir éticamente al diseño y desarrollo de estos modelos. Explorar cómo los gobiernos pueden contribuir se convierte en un punto clave para asegurar un progreso responsable en la implementación de la IA.
En esta nota haremos un breve resumen de los puntos que desarrolla la guía de la OMS. La misma se enfoca en los elementos que deben observar los gobiernos globales para la regulación del uso de la IA en materia de salud a partir del documento de la OMS.
Regulación del uso de datos: desafíos y aplicación de estándares
La aplicación de estándares, respaldada por la OMS, se erige como un pilar fundamental para regular el uso de datos en la formación de modelos de lenguaje de IA. No obstante, la exploración de los desafíos actuales revela las limitaciones de las leyes de protección de datos. No es de extrañar, pues éstas fueron diseñadas antes de la era de la IA generativa. Así, se plantea la interrogante sobre cómo estas limitaciones podrían influir en la aplicación efectiva de las regulaciones en un entorno cada vez más complejo.
Consentimiento informado y procesamiento legal de datos
La obtención de consentimiento informado emerge como un principio crucial, especialmente al tratar con datos de salud para entrenar modelos de IA. Analizando la evolución jurídica, destaca la importancia de que las empresas cumplan con las leyes y regulaciones. Esto sirve como salvaguarda para proteger la autonomía humana frente al escrutinio y las posibles implicaciones éticas.
Regulaciones chinas sobre IA generativa
Una mirada detallada a las medidas implementadas por China en 2023 revela un enfoque pionero en la regulación de la IA generativa. Esto incluye medidas específicas diseñadas para evitar la discriminación y el sesgo en la selección de datos. De esa manera, marca un hito significativo en la regulación global de la IA.
Provisiones legislativas relacionadas con datos
La OMS subraya la importancia de describir exhaustivamente las fuentes de datos utilizadas para entrenar modelos de IA. Además, se explora cómo las provisiones legislativas podrían incluir requisitos para evaluar la idoneidad, sesgo y mitigación de los datos. Esto revela una perspectiva integral para garantizar el uso ético de la IA.
La OMS no sólo destaca la importancia de leyes y políticas gubernamentales; también propone medidas adicionales para fortalecer el desarrollo ético de la inteligencia artificial.
Perfiles de producto objetivo
Se sugiere que los gobiernos emitan perfiles de producto objetivo para expresar preferencias y características de modelos de lenguaje extensos (LLM). Esto se aplica especialmente a aquellos destinados a la atención médica. Esta iniciativa podría ser valiosa si los gobiernos planean adquirir estas tecnologías para sistemas de salud gubernamentales, promoviendo así la alineación con objetivos éticos.
Estándares y requisitos de diseño y desarrollo
Que los gobiernos exijan a los desarrolladores garantizar ciertos resultados éticos en el ciclo de vida de un modelo fundacional sería una medida proactiva. Esto incluiría requisitos para la predictibilidad, interpretabilidad, corregibilidad, seguridad y ciberseguridad del modelo, asegurando así una implementación ética y responsable.
Se sugiere que los gobiernos emitan perfiles de producto objetivo para expresar preferencias y características de modelos extensos de lenguaje.
Programas de precertificación
La propuesta de programas de precertificación busca establecer obligaciones legales e incentivos para que los desarrolladores identifiquen y eviten riesgos éticos. Al hacerlo, deben abordar sesgos y preservar la autonomía. Esta medida refuerza la importancia de anticiparse a problemas éticos potenciales antes de que los modelos de IA lleguen al mercado.
Auditorías
La introducción de auditorías en las etapas iniciales del desarrollo de modelos fundacionales se presenta como una estrategia crucial. Estas auditorías podrían evaluar la gobernanza del proveedor, el modelo en sí y las aplicaciones construidas sobre él. De esa manera, se establece un estándar de calidad y eficacia para garantizar prácticas éticas y transparentes.
Huella ambiental
La consideración de la huella de carbono y agua de los modelos de fundacionales resalta la responsabilidad ambiental. Los gobiernos podrían requerir que los desarrolladores aborden estas preocupaciones. De esa manera, establecerían normas para medir el consumo de energía, reducir su uso durante el entrenamiento y cumplir con estándares ambientales que se definan.
Notificación de contenido generado por máquina
Exigir notificaciones y recordatorios a los usuarios finales sobre el origen del contenido generado por máquina refuerza la importancia de la transparencia en la comunicación. Esto garantizaría que los usuarios estén informados adecuadamente sobre la naturaleza automatizada de la generación de contenido.
Exigir notificaciones y recordatorios a los usuarios finales sobre el origen del contenido generado por máquina refuerza la importancia de la transparencia en la comunicación.
Registro temprano de algoritmos de IA
La propuesta de requerir o incentivar el registro temprano de algoritmos o sistemas de IA destaca la importancia de la transparencia y la prevención de sesgos. Este enfoque podría fomentar la publicación de resultados negativos y facilitar la integración de conocimientos. De ese modo, se evitan interpretaciones excesivamente optimistas y se garantiza un avance equitativo y responsable en la atención médica.
Infraestructura pública para el desarrollo de LLM
Los usos de LLM en salud están aumentando. Ante eso, la propuesta de provisión de infraestructura pública o sin fines de lucro destaca la importancia de nivelar el campo de juego.
Esta infraestructura, que incluiría poder de cómputo y conjuntos de datos públicos, aseguraría un acceso equitativo para desarrolladores en diversos sectores. Por ese medio se evitaría el control exclusivo y se fomentaría el desarrollo ético de la IA.
Esfuerzos para nivelar el campo de juego
La construcción de infraestructura sujeta a supervisión independiente para el desarrollo de LLM en atención médica revela esfuerzos proactivos para garantizar la equidad. Hay ejemplos concretos, como el del equipo internacional de voluntarios académicos y la empresa Hugging Face. Respaldados por financiamiento gubernamental, demuestran la colaboración internacional como una estrategia para superar desafíos y nivelar el campo de juego.
Además, la introducción de plataformas nacionales de cómputo avanzado señala la importancia de garantizar recursos equitativos en la investigación y el desarrollo de la IA.
La combinación de directrices gubernamentales y medidas adicionales refleja un compromiso global para construir una IA ética y equitativa. Es importante que esta tecnología beneficie a la humanidad en su conjunto, minimizando sesgos y maximizando el acceso a recursos críticos
Agustín De Luca es abogado, administrador y músico. Reside en Ciudad de México y actualmente es director general de ICO Inteligencia Creativa, agencia de marketing de contenidos que atiende a clientes internacionales, como AstraZeneca.
Facebook Comments