Los trabajadores aseguraron que las “pocas personas” que pueden “exigir responsabilidad” a las firmas de IA son sus propios trabajadores.
Empleados actuales y antiguos de empresas de inteligencia artificial (IA), como OpenAI, Google, DeepMind y Anthropic, pidieron a las compañías protección ante represalias para los trabajadores que alertan sobre esta tecnología.
Mediante una carta abierta firmada por trece personas, afirmaron que las compañías poseen “sustancial información no pública sobre las capacidades y limitaciones de sus sistemas, la idoneidad de sus medidas de protección”.
Sin embargo, tienen “solo obligaciones vagas” de compartir esa información con los gobiernos, y “ninguna con la sociedad civil”, destacó la misiva.
En medio de este contexto, las “pocas personas” que pueden “exigir responsabilidad” a las firmas de IA son sus propios trabajadores.
“No obstante, los amplios acuerdos de confidencialidad nos impiden expresar nuestras preocupaciones”, explicaron los firmantes”
Advirtió que las protecciones ordinarias a los denunciantes son insuficientes, mientras los “graves riesgos” advertidos aún no están regulados.
“Muchos de nosotros tememos razonablemente diversas formas de represalias, dada la historia de casos de este tipo en toda la industria”, apuntaron.
Como respuesta, propusieron establecer un procedimiento de carácter anónimo para plantear “inquietudes relacionadas con riesgos a las juntas directivas”
Un estudio reciente aseguró que los sistemas generativos descubrieron la forma de utilizar la mentira, el engaño y la manipulación durante interacciones con los seres humanos para lograr sus objetivos.