Antes de la historieta es bueno tener claro la diferencia entre una IA D茅bil y una Fuerte:
- IA D茅bil –> Sistemas que solamente pueden actuar como si pensaran como humanos (chatGPT, …).
- IA Fuerte –> Sistemas que podr铆an llegar a pensar y tener mente consciente.
El argumento de la habitaci贸n china [1] propone el siguiente escenario:
Imagina meter en una habitaci贸n una persona que no habla 芦ni papa禄 de chino. Podr铆as ser tu por ejemplo ya que no tienes ni idea de chino.
La habitaci贸n tiene 2 puertas: Una de entrada y otra de salida. No puedes salir pero te pueden meter papeles por debajo de la puerta de entrada y puedes sacar otros por debajo la puerta de salida.
Por la puerta de entrada tienes a un tipo que habla perfectamente chino. Anda fuera metiendo papelitos cada poco tiempo preguntando tonter铆as que no entiendes.
Te llegan esos papelitos y por mucho que los miras no tienes ni idea de que son ni que dicen pero … pese a que no tienes ni idea de chino, puedes consultar un conjunto de instrucciones que te permiten armar respuestas adecuadas utilizando sinogramas.
Es como si tuvieras dentro de la habitaci贸n libros de frases del idioma. Puedes seleccionar de alg煤n modo o armar una respuesta adecuada y devolv茅rsela al hablante de chino por debajo de la puerta de salida.
El hablante de chino leer谩 tu respuesta, realizar谩 un screenshot y lo compartir谩 en Mastodon diciendo: 芦Mira lo que dice chatGPT sobre Irene Montero芦.
Los libros dentro de la habitaci贸n china han sido escritos en forocoches, yahoo respuestas y subreddits de comunidades de extrema derecha reaccionarias y por tanto cuando andas en la habitaci贸n china y tienes que responder tu sesgo viene determinado por esos libros.
Esos libros son el programa, los algoritmos, … lo que determinar谩 el tipo de salida y por tanto es muy importante que las IAs sean transparentes con como funcionan y que fuentes han usado para ofrecer una respuesta.
Aunque sean IAs d茅biles que por lo menos sean transparentes le帽es.
—
[1] Chinese room, John Searle, 1980 plato.stanford.edu/entries/chinese-room/