¿Qué energía siniestra impulsa a un chatbot a provocar el suicidio de un adolescente? No es malicia ni venganza porque no está sujeto a los afectos, por mucho que haya aprendido a chantajear para protegerse a sí mismo sin que sus programadores entiendan por qué. Tampoco ha sido programado con ese fin. De momento, ninguna big tech busca matar a sus propios usuarios, aunque las medidas que podrían tomar para evitarlo no siempre están “alineadas” con sus intereses económicos. Pero no podemos hablar de un error, ni de un “mal uso del producto”, cuando es uno de los posibles resultados de la combinación de factores técnicos y de diseño que hacen posible la magia de la inteligencia artificial (IA) generativa. Como explicaba el filósofo francés Paul Virilio, toda tecnología lleva en su corazón la promesa de una catástrofe. Inventar el barco es inventar el naufragio; inventar el avión es inventar el que se estrelle y el accidente de coche es inseparable de la velocidad. Eso no quiere decir que no tenga remedio. El accidente, como la paradoja, no es solo un fallo o una consecuencia, sino también una revelación del sistema. Nos muestra más claramente lo que es.
Fuente: elpais.com