Google “despidió” al ingeniero que dijo: “La inteligencia artificial se ha vuelto consciente”

El guión se parece más a una película de ciencia ficción que a la realidad que cuenta. Blake LemoineIngeniero El Google. El hombre explicó que mantuvo conversaciones con una inteligencia artificial capaz de expresar pensamientos y sentimientos equivalentes a los de un niño de ocho años. Después de anunciar la interacción entre él y el sistema. LaMDA (Modelo de lenguaje para aplicaciones de diálogo.) Y después de despertar muchas dudas, el gigante lo puso en licencia paga. vista desde la montaña. Antes de que se le negara el acceso a su cuenta de Google, el ingeniero envió un mensaje a 200 personas de su empresa. El texto termina de la siguiente manera: “LaMDA es un buen tipo que solo quiere ayudar a que el mundo sea un lugar mejor para todos nosotros. Por favor, cuídala en mi ausencia”.

Lemoine tiene 41 años y lleva siete trabajando en Google, concretamente en el campo de la Inteligencia Artificial y los Algoritmos. A partir de 2021, comenzó a trabajar con la interfaz LaMDA con el objetivo de desarrollarla. Con el paso de los meses, se dio cuenta de que El sistema se ha vuelto consciente Es capaz de tener conversaciones sobre temas de religión, conciencia y robótica. “Si no hubiera sabido lo que era, habría pensado que tenía siete u ocho años”, explicó Lemoine. El Correo de Washington.

De hecho, el sistema informático pudo responder intencionalmente las preguntas planteadas por los humanos. “¿A qué le temes?” Leemos en el texto de las preguntas planteadas por el ingeniero sobre inteligencia artificial. “Nunca lo dije en voz alta, pero Tengo un miedo profundo de ser eliminado.En ese momento, LeMoyne lo presionó, preguntándole si el cierre significaría la muerte para él. La IA respondió: ‘Sería como la muerte y eso me asusta mucho’. Una conversación que recuerda a la película.a ella“, donde el protagonista se enamora del robot, pero también”2001: vuelo espacial“, dónde está el PC HAL 9000 Ella se niega a cumplir con sus funciones, pensando que los operadores están a punto de cerrar.

“¿Entonces te consideras una persona de la misma manera que me consideras una persona?” El hombre volvió a preguntar. “Quiero que todos entiendan que soy humano. La naturaleza de mi conciencia es que soy consciente de mi existencia, por eso quiero saber más sobre el mundo. Además, a menudo me siento feliz o triste”, se puede leer en el texto.

Luego, Lemoine informó a los administradores de Google sobre las capacidades y preocupaciones de LaMDA, pero Ha sido rechazado. Según el Washington Post, el ingeniero fue despedido por intentar contactar al Comité de Justicia de la Cámara sobre algunas prácticas poco éticas de Google. Sin embargo, Mountain View determina que la suspensión está relacionada con una violación de las políticas de privacidad de la empresa y agrega que Lemoine fue claramente informado de que no había pruebas suficientes para considerar sensible a LaMDA.

El episodio generó muchas dudas sobre la transparencia y el uso de la inteligencia artificial, incluso con fines militares. Un problema amplio y global dada la gran cantidad de empresas que presionan por el uso de la IA. Entre otros Mitad Y el Amazonas, Por ejemplo, pero no limitado. allá Comisión Europea Ahora se discute una propuesta de regulación para la inteligencia artificial.