La IA resucita personas

OpenAI ha realizado avances absolutamente espectaculares en los últimos años. Algunos incluso tan inquietantes que la compañía ha decidido mantenerlos a buen recaudo, contradiciendo así su vocación de ser una institución de conocimiento abierto y sin ánimo de lucro. Porque la tecnología diseñada podría caer en malas manos y darle un uso peligroso. Pues bien, el suceso narrado por el citado diario californiano parece sumarse a dichos riesgos.

OpenAI había creado una web muy asequible para que cualquiera pudiera crear chatbot de inteligencia artificial con los que charlar desenfadadamente. Este servicio llamado December y sin mayores pretensiones que la intención de promocionar una herramienta para el entretenimiento y la divulgación de la informática de vanguardia, generó un efecto inesperado.

El algoritmo permitió conversaciones realistas con el avatar de una persona fallecida

MIEDO A LAS CONSECUENCIAS

Joshua Barbeau, un escritor especializado en crear historias para el juego de rol Dragones y Mazmorras, hizo uso de la herramienta December para recrear informáticamente la personalidad de su novia Jessica, fallecida ocho años atrás. Conseguir "resucitar" artificialmente a su pareja difunta requirió únicamente suministrar al programa una serie de textos originales de Jessica. Una vez procesados adecuadamente, el algoritmo permitió conversaciones realistas con dicho avatar, transmitiendo la sensación de estar dialogando con una persona real al otro lado. Jessica había vuelto a la vida. San Francisco Chronicle describe este proceso creativo diciendo que Barbeau, "tan pronto como construyó su primer bot personalizado, una simulación del Spock de Star Trek, a quien consideraba un héroe, se le encendió una luz: al introducir algunas citas de Spock de un antiguo episodio de televisión en el sitio, Joshua convocó un bot que sonaba exactamente como Spock, pero hablaba con frases originales que no se encontraban en ningún guion. Mientras Joshua continuaba experimentando, se dio cuenta de que no había ninguna regla que le impidiera simular a personas reales. ¿Qué pasaría, s preguntó, si intentara crear una versión de chatbot de su prometida muerta?".

Así de sencillo. Solo tuvo que pagar cinco dólares y disponer de unos mínimos conocimientos de manejo del ordenador para desenvolverse en una interfaz muy amigable. Una vez que San Francisco Chronicle reveló el empleo dado por Barbeau a December, las visitas a la web se dispararon. OpenAI, lejos de aprovechar el tirón mediático por el éxito cosechado, optó por cerrar el recurso online. Al dirigirse por email al desarrollador de la aplicación, Jason Rohrer, los directivos de la empresa le confesaron que "lo que has construido es realmente fascinante. Ciertamente reconocemos que tienes usuarios que hasta ahora han tenido experiencias positivas. Sin embargo, hay numerosas formas en las que tu producto no se ajusta a las directrices de casos de uso de OpenAI o a las mejores prácticas de seguridad. Como parte de nuestro compromiso con el despliegue seguro y responsable de la IA, pedimos que todos nuestros clientes de la API se atengan a ellas".

Barbeau discrepa de la prudencia y la decisión final de eliminar la web ejecutada por OpenAI. Para él, "las personas que piensan que se trata de una tecnología perjudicial son paranoicas o conservadoras y están metiendo miedo. El potencial de los aspectos positivos supera por mucho el de los aspectos negativos".