OpenAI, Google y Anthropic buscan moderar el desarrollo de la IA
Los principales líderes de la industria de inteligencia artificial (IA) comenzaron a respaldar un llamado para moderar el ritmo de desarrollo de los sistemas más avanzados, ante el riesgo de que sus capacidades crezcan más rápido que los mecanismos disponibles para supervisarlos.
La propuesta fue planteada por Dario Amodei, CEO de Anthropic, quien pidió establecer nuevas medidas de seguridad para los llamados modelos de frontera, aquellos que concentran las mayores capacidades de procesamiento, razonamiento y autonomía.
Amodei advirtió que la competencia entre las empresas de tecnología está acelerando el desarrollo de estos sistemas y podría generar riesgos difíciles de controlar si las compañías no cuentan con mecanismos adecuados para detectar y corregir comportamientos peligrosos.
La coincidencia resulta relevante debido a que las empresas que representan mantienen una fuerte competencia por desarrollar los modelos de inteligencia artificial más avanzados del mercado.
La propuesta de Anthropic contempla que especialistas externos puedan evaluar de manera permanente los sistemas de IA y verificar que las compañías cumplan con determinados estándares de seguridad. También plantea una mayor coordinación entre los principales laboratorios para establecer reglas comunes.
Otro de los planteamientos es avanzar hacia una cooperación internacional que permita establecer límites y mecanismos de supervisión para las tecnologías más avanzadas. La iniciativa incluso considera la necesidad de involucrar a países que actualmente compiten por el liderazgo mundial en inteligencia artificial.
Hassabis también ha planteado la posibilidad de crear un organismo de supervisión especializado en inteligencia artificial, con funciones similares a las que tienen entidades reguladoras de otros sectores.
Sin embargo, hasta ahora no existe un acuerdo formal para crear una institución de este tipo.
OpenAI, Google y Anthropic buscan moderar el desarrollo de la IA
