Grandes empresas tecnológicas, entre ellas Google, Microsoft, OpenAI y Anthropic, han unido fuerzas para formar el Frontier Model Forum, una coalición destinada a regular el desarrollo de la inteligencia artificial (IA) y prevenir posibles abusos en el uso de esta tecnología. El objetivo principal de esta iniciativa es establecer barreras adecuadas para mitigar los riesgos asociados con la IA, mientras se maximizan sus beneficios para la sociedad.
El anuncio de la creación de Frontier Model Forum tuvo lugar este miércoles, y coincide con la reciente reunión entre el presidente de Estados Unidos, Joe Biden, y los líderes de las principales compañías de IA. Durante dicho encuentro, Biden instó a un mayor compromiso por parte de estas empresas para enfrentar los desafíos relacionados con la ciberseguridad, el fraude, la desinformación y otros riesgos vinculados a la inteligencia artificial.
Te puede interesar: Andicom 2023: Un Encuentro Internacional De Alto Nivel En Cartagena Para Abordar Temas De Regulación 5G Y TIC
La coalición, integrada por las mencionadas empresas tecnológicas, tiene como propósito fomentar el desarrollo responsable de modelos de IA a través de la promoción de mejores prácticas y estándares en la industria. Para ello, se impulsarán mecanismos como evaluaciones técnicas y la posible creación de una biblioteca pública de soluciones.
Anna Makanju, vicepresidenta de Asuntos Globales de OpenAI, subrayó la importancia de que las empresas de IA, especialmente aquellas que trabajan en modelos de alta potencia, se unan en un terreno común y avancen hacia prácticas de seguridad reflexivas y adaptables para garantizar el máximo beneficio de estas poderosas herramientas.
Los objetivos establecidos por el Frontier Model Forum abarcan diversos ámbitos clave. En primer lugar, se enfocarán en la seguridad, promoviendo el desarrollo responsable de modelos de IA para minimizar riesgos y permitir evaluaciones independientes y estandarizadas de sus capacidades y seguridad.
En segundo lugar, el foro buscará identificar mejores prácticas para el desarrollo y despliegue responsable de estos modelos, con el fin de proporcionar al público una comprensión clara de la naturaleza, capacidades, limitaciones e impacto de la tecnología de IA.
En tercer lugar, la coalición colaborará con responsables políticos, académicos, sociedad civil y otras empresas para compartir conocimientos sobre los riesgos relacionados con la confianza y seguridad de las IA.
