Menos de dos años después de que Google despidió a dos investigadores que criticaron las fallas integradas en los sistemas de inteligencia artificial, la compañía despidió a un investigador que cuestionó un artículo publicado sobre la posibilidad de utilizar un tipo especializado de inteligencia artificial para producir chips de computadora.

El investigador Satrajit Chatterjee dirigió un equipo de científicos para desafiar un famoso artículo científico que apareció el año pasado en la revista científica Nature, que decía que las computadoras pueden diseñar ciertas partes de un chip de computadora más rápido y mejor que los humanos.

Chatterjee, de 43 años, fue liberada en marzo, poco después de que Google le dijera a su equipo que no publicaría un artículo que desacreditara algunas de las afirmaciones hechas en Nature, cuatro personas familiarizadas con la situación dijeron que no se les permitía hablar abiertamente sobre el caso. Google confirmó en una declaración escrita que Chatterjee fue «liberado por razones».

Google se negó a discutir los despidos de Chatterjee, pero se ofreció a defender completamente la investigación que criticó y su renuencia a publicar su evaluación.

«Examinamos cuidadosamente el artículo original de Nature y respaldamos los hallazgos revisados ​​por pares», dijo Zoubin Ghahramani, vicepresidente de Google Research en una declaración escrita. «También investigamos rigurosamente los reclamos técnicos de la presentación posterior y no cumplió con nuestros estándares de publicación».

El despido de Chatterjee fue el último ejemplo de desacuerdo dentro y alrededor de Google Brain, un grupo de investigación de inteligencia artificial considerado clave para el futuro de la empresa. Después de gastar miles de millones de dólares en contratar a los mejores investigadores y crear nuevos tipos de automatización computacional, Google ha encontrado muchas quejas sobre cómo construye, usa y presenta estas tecnologías.

Timnit Gebru en Cambridge, Massachusetts, 29 de diciembre de 2017 Gebru fue despedida en 2020 de su puesto como líder del equipo de IA ética de Google en 2020 (Cody O’Loughlin / The New York Times)

La tensión entre los investigadores de IA en Google refleja una lucha mucho mayor en la industria de la tecnología, que lidia con innumerables preguntas sobre las nuevas tecnologías de IA y los delicados problemas sociales que han enredado estas tecnologías y las personas que las crean.

La disputa reciente también sigue el patrón bien conocido de despidos y denuncias entre los investigadores de IA de Google, que es un problema creciente para una empresa que ha apostado su futuro a la incorporación de IA en todo lo que hace. Sundar Pichai, CEO de Alphabet, la empresa matriz de Google, comparó la inteligencia artificial con el surgimiento de la electricidad o el fuego, calificándolo como uno de los esfuerzos más importantes de la humanidad.

Google Brain comenzó como un proyecto paralelo hace más de una década cuando un grupo de investigadores construyó un sistema que aprendió a reconocer gatos en videos de YouTube. Los ejecutivos de Google estaban tan entusiasmados con la perspectiva de que las máquinas pudieran aprender habilidades por sí mismas que rápidamente ampliaron el laboratorio, sentando las bases para transformar la empresa con una nueva IA. El grupo de investigación se ha convertido en un símbolo de las mayores ambiciones de la empresa.

Pero incluso cuando Google promocionó el potencial de la tecnología, se encontró con la resistencia de los empleados sobre su uso. En 2018, los empleados de Google protestaron por un acuerdo con el Departamento de Defensa, temiendo que la IA de la empresa pudiera terminar matando gente. Google finalmente se retiró del proyecto.

En diciembre de 2020, Google despidió a uno de los líderes de su equipo de IA, Timnit Gebru, luego de criticar el enfoque de la compañía para contratar a minorías y presionar por un trabajo de investigación que destacara las deficiencias de un nuevo tipo de sistema de IA para el aprendizaje de idiomas.

Antes de que la despidieran, Gebru solicitó permiso para publicar un artículo de investigación sobre cómo los sistemas de lenguaje basados ​​en IA, incluida la tecnología creada por Google, podrían eventualmente usar el lenguaje sesgado y odioso que aprenden de los textos en libros y sitios web. Gebru dijo que estaba irritado por la respuesta de Google a tales quejas, incluida su negativa a publicar el documento.

Unos meses después, la empresa despidió a la segunda líder del equipo, Margaret Mitchell, quien condenó públicamente la conducta de Google con Gebru. La compañía dijo que Mitchell violó su código de conducta.

Un artículo en Nature, publicado en junio pasado, promovió una tecnología llamada aprendizaje amplificado que puede mejorar el diseño de chips de computadora. La tecnología ha sido aclamada como un gran avance en inteligencia artificial y una gran mejora con respecto a los enfoques existentes para el diseño de chips. Google dijo que usó la técnica para desarrollar sus propios chips para computación de IA.

Google ha estado trabajando en la aplicación del aprendizaje automático al diseño de chips durante años y publicó un artículo similar un año antes. Por esa época, Google le preguntó a Chatterjee, quien tiene un doctorado en informática de UC Berkeley y trabajó como investigador en Intel, para ver si este enfoque podría venderse o licenciarse para el diseño del chip, según lo dicho por personas familiarizadas con el caso.

Sin embargo, Chatterjee expresó reservas en un correo electrónico interno a algunas de las afirmaciones del periódico y cuestionó si la tecnología se había probado rigurosamente, dijeron tres.

Mientras continuaba el debate sobre esta investigación, Google envió otro artículo a Nature. Con fines de presentación, Google realizó algunas correcciones al artículo anterior y eliminó los nombres de dos autores que trabajaron en estrecha colaboración con Chatterjee y también expresaron su preocupación sobre las principales afirmaciones del artículo.

Cuando se publicó el último artículo, algunos investigadores de Google se sorprendieron. Sintieron que se había perdido el proceso de aprobación de la publicación que Jeff Dean, el vicepresidente senior de la compañía que supervisa la mayoría de las actividades de AI, dijo que era necesario después de que Gebru fuera despedido.

Google y una de las dos autoras principales del artículo, Anna Goldie, quien lo escribió junto con otra científica informática, Azalia Mirhoseini, dijeron que los cambios al artículo anterior no requerían un proceso de aprobación completo. Google permitió que Chatterjee y un puñado de investigadores internos y externos trabajaran en un documento que cuestionaba algunas de sus afirmaciones.

El equipo presentó un documento de refutación al Comité de Resolución para su aprobación y publicación. Meses después, el artículo fue rechazado.

Los investigadores que trabajaron en el documento de desacreditación dijeron que querían remitir el asunto a la junta directiva de Pichai y Alphabet. Argumentaron que la decisión de Google de no publicar la objeción violó sus propios principios de IA, incluido el mantenimiento de altos estándares de excelencia científica. Poco después, se le informó a Chatterjee que ya no era un empleado.

Goldie dijo que Chatterjee pidió administrar su proyecto en 2019 y se negaron. Cuando más tarde lo criticó, dijo que no podía fundamentar sus quejas e ignoró las pruebas que proporcionaron en respuesta.

«Sat Chatterjee ha estado realizando una campaña de desinformación contra mí y Azalia durante más de dos años», dijo Goldie en una declaración escrita.

Ella dijo que el trabajo fue revisado por Nature, una de las publicaciones científicas más prestigiosas del mundo. Agregó que Google usó sus métodos para construir nuevos chips y que estos chips ahora se usan en los centros de datos informáticos de Google.

Laurie M. Burgess, abogada de Chatterjee, dijo que era decepcionante que «algunos autores del artículo de Nature estén tratando de cerrar la discusión científica calumniando y atacando al Dr. Chatterjee por simplemente buscar la transparencia científica». Burgess también cuestionó el liderazgo de Dean, quien fue uno de los 20 coautores del artículo de Nature.

“Los esfuerzos de Jeff Dean para suprimir la publicación de todos los datos experimentales relevantes, no solo los datos que respaldan su hipótesis favorita, deberían ser una gran preocupación tanto para la comunidad de investigación como para la comunidad en general que usa los productos y servicios de Google.

El decano no respondió a una solicitud de comentarios.

Después de que el documento de refutación se compartió con científicos y otros expertos fuera de Google, la controversia se extendió a la comunidad mundial de investigadores especializados en diseño de chips.

El fabricante de chips Nvidia dice que usó métodos de diseño de chips similares a los de Google, pero algunos expertos no están seguros de qué significa la investigación de Google para la industria tecnológica más grande.

«Si realmente funciona bien, sería un gran problema», dijo Jens Lienig, profesor de la Universidad Técnica de Dresden en Alemania, refiriéndose a la tecnología de IA descrita en un artículo de Google. «Pero no está claro si funciona».

Este artículo apareció originalmente en The New York Times.