Google pide a los autores que se abstengan de presentar la tecnología de forma negativa y que consulten con varios departamentos debido a una serie de temas delicados.
Otros puntos calientes incluyen la industria petrolera, China, Irán, Israel, COVID-19, seguridad del hogar, seguros, datos de ubicación, religión, coches autónomos, telecomunicaciones y sistemas que recomiendan o personalizan contenido web. Los avances en la tecnología y las tendencias actuales en el entorno externo conducen cada vez más a situaciones en las que proyectos aparentemente inofensivos plantean problemas éticos, de reputación, regulatorios o legales, dice una política interna de la empresa para el personal de investigación.
Según los empleados de Google, la cláusula de temas delicados se convirtió en un paso adicional para verificar las obras en busca de trampas como la divulgación de secretos comerciales, según señala Itworld. Sin embargo, la empresa intervino en algunos proyectos antes de la publicación, pidiendo a los autores que tengan mucho cuidado de marcar un tono positivo.
IA recomendatoria
Uno de ellos planteó el tema de la IA recomendatoria, como los servicios de YouTube para personalizar el contenido del usuario. Los autores expresaron su preocupación de que la tecnología podría contribuir a información errónea, resultados discriminatorios o injustos y falta de diversidad de contenido, además de conducir a una polarización política. En cambio, la última publicación dice que los sistemas pueden ayudar a mejorar la precisión, la equidad y la diversidad de contenido de la información. Es decir, se cambió el enfoque hacia los aspectos positivos.
Esto no significa que tengan que esconderse de problemas reales, explica Google. No obstante, los investigadores internos dicen que creen que la compañía está comenzando a interferir con importantes investigaciones sobre el daño potencial de la tecnología. Como señaló Margaret Mitchell, una de las empleadas de Google, si investigamos algo de nuestra experiencia y no se nos permite publicarlo debido a una revisión por pares de calidad inapropiada, entonces nos enfrentamos a un grave problema de censura.
Google afirma en su sitio web que sus científicos tienen libertad tangible
Google afirma en su sitio web que sus científicos tienen libertad tangible, pero la tensión en el equipo es lo suficientemente clara, especialmente dada la partida de Timnit Gebru, quien, junto con Margaret, dirigió un equipo de 12 profesionales centrados en la ética en la inteligencia artificial. Gebru dijo que Google lo despidió después de que impugnó una orden de no publicar un estudio que argumentó que la inteligencia artificial que imita el habla podría perjudicar a las poblaciones marginadas.
La compañía dijo que solo aceptó y aceleró su renuncia. El explosivo crecimiento de la investigación y el desarrollo en el campo de la inteligencia artificial llevó a las autoridades de Estados Unidos y otros países a comenzar a desarrollar reglas para su uso.
