Antes de la historieta es bueno tener claro la diferencia entre una IA Débil y una Fuerte:
- IA Débil –> Sistemas que solamente pueden actuar como si pensaran como humanos (chatGPT, …).
- IA Fuerte –> Sistemas que podrían llegar a pensar y tener mente consciente.
El argumento de la habitación china [1] propone el siguiente escenario:
Imagina meter en una habitación una persona que no habla «ni papa» de chino. Podrías ser tu por ejemplo ya que no tienes ni idea de chino.
La habitación tiene 2 puertas: Una de entrada y otra de salida. No puedes salir pero te pueden meter papeles por debajo de la puerta de entrada y puedes sacar otros por debajo la puerta de salida.
Por la puerta de entrada tienes a un tipo que habla perfectamente chino. Anda fuera metiendo papelitos cada poco tiempo preguntando tonterías que no entiendes.
Te llegan esos papelitos y por mucho que los miras no tienes ni idea de que son ni que dicen pero … pese a que no tienes ni idea de chino, puedes consultar un conjunto de instrucciones que te permiten armar respuestas adecuadas utilizando sinogramas.
Es como si tuvieras dentro de la habitación libros de frases del idioma. Puedes seleccionar de algún modo o armar una respuesta adecuada y devolvérsela al hablante de chino por debajo de la puerta de salida.
El hablante de chino leerá tu respuesta, realizará un screenshot y lo compartirá en Mastodon diciendo: «Mira lo que dice chatGPT sobre Irene Montero«.
Los libros dentro de la habitación china han sido escritos en forocoches, yahoo respuestas y subreddits de comunidades de extrema derecha reaccionarias y por tanto cuando andas en la habitación china y tienes que responder tu sesgo viene determinado por esos libros.
Esos libros son el programa, los algoritmos, … lo que determinará el tipo de salida y por tanto es muy importante que las IAs sean transparentes con como funcionan y que fuentes han usado para ofrecer una respuesta.
Aunque sean IAs débiles que por lo menos sean transparentes leñes.
—
[1] Chinese room, John Searle, 1980 plato.stanford.edu/entries/chinese-room/
