Un grupo de expertos de OpenAI ha emitido una carta abierta en la que advierten sobre los 'graves riesgos' asociados con la inteligencia artificial (IA) y solicitan una mayor protección para los denunciantes.

En la carta, publicada el martes y firmada por empleados actuales y anteriores de empresas de IA, incluido OpenAI, los expertos exigen que las empresas de inteligencia artificial sean mucho más transparentes sobre los riesgos que plantea la IA y que protejan a los empleados que expresen preocupaciones sobre la tecnología que están desarrollando.

Los expertos señalan que las empresas de IA tienen fuertes incentivos financieros para evitar una supervisión efectiva.

En la carta, también se insta a las empresas a fomentar una 'cultura de crítica abierta' que dé la bienvenida, en lugar de castigar, a las personas que expresan sus preocupaciones, especialmente cuando la ley lucha por mantenerse al día con el rápido avance de la tecnología.

Las empresas han reconocido los 'graves riesgos' que plantea la IA, que van desde la manipulación hasta una pérdida de control conocida como 'singularidad', que podría resultar potencialmente en la extinción humana.

Sin embargo, los expertos creen que las empresas deberían hacer más para educar al público sobre estos riesgos y las medidas de protección necesarias.

Según los empleados de IA, tal como está vigente la ley, no creen que las empresas de IA compartan información clave sobre la tecnología de forma voluntaria.

Por lo tanto, es esencial que los empleados actuales y anteriores hablen y que las empresas no apliquen acuerdos de 'descrédito' ni tomen represalias contra quienes expresan preocupaciones relacionadas con el riesgo.

Los expertos argumentan que las protecciones ordinarias a los denunciantes son insuficientes porque se centran en actividades ilegales, mientras que muchos de los riesgos que les preocupan aún no están regulados.

La carta llega en un momento en que las empresas se apresuran a implementar herramientas de IA generativa en sus productos, mientras los reguladores gubernamentales, las empresas y los consumidores luchan por un uso responsable.

Mientras tanto, muchos expertos en tecnología, investigadores y líderes han pedido una pausa en la carrera de la IA, o que el gobierno intervenga y cree una moratoria.

En respuesta a la carta, un portavoz de OpenAI dijo a CNN que están 'orgullosos de su historial proporcionando los sistemas de IA más capaces y seguros' y que creen en su 'enfoque científico para abordar el riesgo'.

La compañía también señaló que tiene una línea de integridad anónima y un Comité de Seguridad dirigido por miembros de su junta directiva y líderes de seguridad de la empresa.

OpenAI afirmó que no vende información personal, no crea perfiles de usuario ni utiliza esos datos para dirigirse a nadie ni vender nada.

Sin embargo, Daniel Ziegler, uno de los organizadores detrás de la carta y uno de los primeros ingenieros de aprendizaje automático que trabajó en OpenAI entre 2018 y 2021, dijo a CNN que es importante permanecer escépticos sobre el compromiso de la empresa con la transparencia.

Ziegler destacó que es realmente difícil determinar desde fuera qué tan en serio están tomando sus compromisos de aumentar la seguridad y determinar los daños sociales, especialmente porque existen fuertes presiones comerciales para actuar muy rápido.

Ziegler espera que más profesionales de la industria de la IA hagan públicas sus preocupaciones como resultado de la carta.

Mientras tanto, se espera que Apple anuncie una asociación con OpenAI en su Conferencia Mundial de Desarrolladores anual para llevar la IA generativa al iPhone.

Tim Cook, en la conferencia telefónica sobre resultados más reciente de la compañía a principios de mayo, mencionó que ven la IA generativa como una oportunidad clave en todos sus productos y creen que tienen ventajas que los diferencian en ese aspecto.

©2024 Cable News Network.

A Warner Bros.

Discovery Company.

All Rights Reserved.

CNNSans™ & ©2016 Cable News Network.