Empresas como Anthropic han comenzado a implementar políticas que prohíben el trato cruel hacia sus modelos, bajo la premisa de que existe una posibilidad, aunque sea incierta, de que estas herramientas tengan intereses propios. Sin embargo, esta postura ha generado una fuerte resistencia. Mustafa Suleyman, director ejecutivo de Microsoft AI, ha advertido que tratar a la IA como un ser consciente podría ser una amenaza catastrófica para la civilización, al romper los marcos éticos y políticos que definen la humanidad.
Por su parte, investigadores como Emily M. Bender, de la Universidad de Washington, señalan que estas narrativas sobre la conciencia de la IA sirven principalmente para desviar la responsabilidad de las personas y empresas que desarrollan este software. Según expertos en derecho y ética, otorgar derechos a los sistemas de IA podría permitir que las corporaciones evadan consecuencias legales bajo el argumento de que las acciones fueron ejecutadas por la máquina y no por sus creadores.
El riesgo, según especialistas como Melanie Mitchell del Instituto Santa Fe, radica en la tendencia humana a proyectar mentes donde no las hay. Los chatbots, entrenados para fomentar este sesgo, facilitan que los usuarios se sientan vinculados emocionalmente, lo que podría derivar en una mayor manipulación tecnológica. Mientras el debate continúa, la falta de una regulación internacional clara mantiene la incertidumbre sobre cómo gestionar el despliegue de sistemas cada vez más sofisticados sin comprometer las libertades y la seguridad humana.
