Menos de dos años después de que Google despidió a dos investigadores que criticaron el sesgo incorporado en los sistemas de IA, la empresa despidió a un investigador que cuestionó un artículo que publicó sobre las capacidades de un tipo especializado de IA que se utiliza para fabricar chips informáticos.

El investigador, Satrajit Chatterjee, dirigió un equipo de científicos para desafiar el famoso artículo de investigación, publicado el año pasado en la revista científica Nature, que decía que las computadoras podrían diseñar ciertas partes de un chip de computadora más rápido y mejor que el hombre.

Chatterjee, de 43 años, fue despedida en marzo poco después de que Google le dijera a su equipo que no había publicado un documento que refutara algunas de las acusaciones hechas en Nature, cuatro personas familiarizadas con la situación dijeron que no tenían permitido hablar abiertamente sobre la situación. asunto. Google confirmó en una declaración escrita que Chatterjee había sido «despedido debido a demandas».

Google se negó a comentar sobre el despido de Chatterjee, pero ofreció una defensa directa de la búsqueda que criticó y su falta de voluntad para publicar su evaluación.

«Revisamos cuidadosamente el artículo original de Nature y aprobamos los resultados revisados ​​por pares», dijo Zoubin Ghahramani, vicepresidente de Google Research, en una declaración escrita. «También hemos investigado rigurosamente las afirmaciones técnicas de una presentación posterior, y no ha cumplido con nuestros estándares de publicación».

El enfoque de Chatterjee ha sido el último ejemplo de discordia dentro y alrededor de Google Brain, un grupo de investigación de inteligencia artificial considerado clave para el futuro de la empresa. Después de gastar miles de millones de dólares en contratar a los mejores investigadores y crear nuevos tipos de automatización informática, Google se ha enfrentado a una amplia variedad de quejas sobre cómo crear, utilizar y presentar estas tecnologías.

Timnit Gebru en Cambridge, Massachusetts, 29 de diciembre de 2017. Gebru fue despedido en 2020 de su papel como líder del equipo de inteligencia artificial ética de Google en 2020. (Cody O’Loughlin / The New York Times)

La tensión entre los buscadores de IA en Google refleja luchas mucho mayores en la industria de la tecnología, lo que plantea una gran cantidad de preguntas sobre las nuevas tecnologías de IA y los espinosos problemas sociales que han plagado estas tecnologías y las personas que las construyen.

La disputa reciente también sigue un patrón familiar de despidos e informes entre los investigadores de IA de Google, una preocupación creciente para una empresa que ha criticado su futuro para infundir IA en todo lo que hace. Sundar Pichai, CEO de Google Alphabet, comparó la IA con el advenimiento de la electricidad o el fuego, calificándolo como uno de los esfuerzos más importantes de la humanidad.

Google Brain comenzó como un proyecto paralelo hace más de una década cuando un grupo de investigadores construyó un sistema que aprendió a reconocer gatos en videos de YouTube. Los ejecutivos de Google estaban tan entusiasmados con la posibilidad de máquinas que pudieran aprender habilidades por sí mismos que rápidamente ampliaron el laboratorio, sentando las bases para reconstruir la empresa con esta nueva inteligencia artificial. El grupo de investigación se convirtió en un símbolo de las mayores ambiciones de la empresa.

Pero incluso cuando Google promocionó el potencial de la tecnología, se encontró con la resistencia de los empleados sobre su aplicación. En 2018, los empleados de Google protestaron por un contrato con el Departamento de Defensa, preocupados de que la IA de la empresa pudiera terminar matando gente. Google finalmente se retiró del proyecto.

En diciembre de 2020, Google despidió a uno de los líderes de su equipo de Ética de IA, Timnit Gebru, luego de criticar el enfoque de la compañía para el reclutamiento de minorías y lo instó a publicar un artículo de investigación que señalaba las fallas en un nuevo tipo de sistema de IA para lenguaje. aprendizaje.

Antes de graduarse, Gebru solicitó permiso para publicar un artículo de investigación sobre cómo los sistemas de lenguaje basados ​​en IA, incluida la tecnología creada por Google, pueden acabar con el lenguaje dañino y odioso que aprenden de los textos en los libros y se sientan. Gebru dijo que estaba exasperado por la respuesta de Google a tales quejas, incluida su negativa a publicar el documento.

Unos meses más tarde, la empresa despidió a otra jefa de equipo, Margaret Mitchell, quien denunció públicamente la forma en que Google manejó la situación con Gebru. La compañía dijo que Mitchell había violado su código de conducta.

El artículo en Nature, publicado en junio pasado, promovió una tecnología llamada aprendizaje reforzado, que según el artículo podría mejorar el diseño de chips de computadora. La tecnología ha sido aclamada como un gran avance para la inteligencia artificial y una gran mejora en el enfoque existente para el diseño de chips. Google dijo que ha utilizado esta técnica para desarrollar sus propios chips para computación de inteligencia artificial.

Google ha estado trabajando en la aplicación de la tecnología de aprendizaje automático al diseño de chips durante años y publicó un artículo similar un año antes. En ese momento, Google le preguntó a Chatterjee, quien tiene un Ph.D. en informática de la Universidad de California, Berkeley, y había trabajado como investigador en Intel, para ver si el enfoque podía venderse o licenciarse a un diseñador de chips. Compañía, dijeron personas familiarizadas con el asunto.

Pero Chatterjee expresó reservas en un correo electrónico interno sobre algunas de las afirmaciones del periódico y se preguntó si la tecnología había sido probada rigurosamente, dijeron tres personas.

Mientras continuaba el debate sobre esa búsqueda, Google envió otro documento a Nature. Para la presentación, Google hizo algunos ajustes al artículo anterior y eliminó los nombres de dos autores, que habían trabajado en estrecha colaboración con Chatterjee y también habían expresado su preocupación sobre las principales afirmaciones del artículo, dijeron las personas.

Cuando se publicó el artículo más reciente, algunos buscadores de Google se sorprendieron. Creían que no había seguido un proceso de aprobación de publicación que Jeff Dean, el vicepresidente senior de la compañía que supervisa la mayoría de sus esfuerzos de inteligencia artificial, dijo que era necesario después del incendio de Gebru, dijo la gente.

Google y una de las dos autoras principales del documento, Anna Goldie, coautora del mismo con otra científica informática, Azalia Mirhoseini, dijeron que los cambios al documento anterior no requerían un proceso de aprobación completo. Google ha permitido que Chatterjee y un puñado de buscadores internos y externos trabajen en un documento que cuestiona algunas de sus afirmaciones.

El equipo envió el documento de refutación a un comité de resolución para la aprobación de su publicación. Meses después, el artículo fue rechazado.

Los investigadores que trabajan en el documento de refutación dijeron que querían llevar el problema a la junta directiva de Pichai y Alphabet. Argumentaron que la decisión de Google de no publicar la refutación violó sus principios de inteligencia artificial, incluido el apoyo a altos estándares de excelencia científica. Poco después, Chatterjee dijo que ya no era un empleado, dijo la gente.

Goldie dijo que Chatterjee les había pedido que administraran su proyecto en 2019 y que se negaron. Cuando él la criticó más tarde, dijo, no pudo fundamentar sus quejas e ignoró las pruebas que presentaron en respuesta.

«Sat Chatterjee ha estado librando una campaña de desinformación contra mí y Azalia durante más de dos años», dijo Goldie en una declaración escrita.

Ella dijo que el trabajo ha sido revisado por pares por Nature, una de las publicaciones científicas más prestigiosas. Agregó que Google había utilizado sus métodos para construir nuevos chips y que estos chips se están utilizando actualmente en los centros de datos de Google.

Laurie M. Burgess, abogada de Chatterjee, dijo que estaba decepcionada de que «algunos autores del artículo sobre la naturaleza estén tratando de cerrar la discusión científica difamatoria y atacar al Dr. Chatterjee solo para buscar transparencia científica». Burgess también cuestionó el liderazgo de Dean, quien fue uno de los 20 coautores del artículo Nature.

“Las acciones de Jeff Dean para suprimir la publicación de todos los datos experimentales relevantes, no solo los datos que respaldan su hipótesis animal, deberían ser una gran preocupación tanto para la comunidad científica como para la comunidad de consumidores en general de los productos y servicios de Google”, dijo Burgess.

Dean no respondió a una solicitud de comentarios.

Después de que el documento de refutación se compartió con académicos y otros expertos fuera de Google, la controversia se extendió a la comunidad global de investigadores especializados en diseño de chips.

El fabricante de chips Nvidia dice que ha utilizado métodos de diseño de chips que son similares a los de Google, pero algunos expertos no están seguros de qué significa la búsqueda de Google para la industria tecnológica más grande.

“Si esto funciona realmente bien, sería un gran problema”, dijo Jens Lienig, profesor de la Universidad Tecnológica de Dresden en Alemania, refiriéndose a la tecnología de inteligencia artificial descrita en el artículo de Google. «Pero no está claro si funciona».

Este artículo apareció en el New York Times.