He tratado de ordenar ciertos pensamientos alrededor de la «Soberanía tecnológica», «la computación extractivista» y el Cherry Picking cuando algunas personas afirman sin despeinarse que las IAs son éticas, anti-racistas o feministas.
1. ¿Es posible actualmente una hamburguesa ética?
2. Disonancia cognitiva – La tauromaquia no es ética
3. La computación actual es extractivista
4. Hacia una computación menos extractivista y más soberana
5. No hables de soberanía si solamente hablas de la capa del software
6. No existe una IA ética – Recolectando cerezas
Vamos a darle duro al tema. No obstante le aviso ya que esto son opiniones personales en mi blog, no necesitas insultarme si no opinas lo mismo. Empezamos …
1. ¿Es posible actualmente una hamburguesa ética?
Responder la pregunta nos lleva a pensar en todo un proceso y no solamente en si la hamburguesa se cocina siguiendo una receta publicada bajo una licencia libre.
Ponemos mentalmente cuerpo a quien trabaja la tierra, a los derechos laborales, normativas de control de calidad, transporte, huella ecológica, empresas en la cadena de suministros, bienestar, impactos, …
Esto no suele pasar en todo. De algún modo en lo digital ignoramos o hacemos invisibles las capas que no nos interesan ver.
Por ejemplo muchas veces se habla de soberanía tecnológica haciendo solamente alusión al software y haciendo como que el hardware aparece de la nada en nuestras vidas.
2. Disonancia cognitiva – La tauromaquia no es ética
Es digamos mas fácil vivir ignorando que existen otras capas para conseguir una soberanía centrándose solamente en una. Esto creo que se ve más claro en el caso de un coche de combustión o del tipo que sea. Puede que consigas instalarle Linux al coche pero no por ello hablas de soberanía en el transporte. Esa disonancia cognitiva se ve clara en el ejemplo de la tauromaquia.
Algunas personas se esfuerzan en generar todo tipo de excusas para no decir lo que es realmente la tauromaquia: Tortura.
Lo mismo pasa con la guerra que se justifica con rollos de la patria, evitar males mayores.
Me resulta curioso que como sociedad seamos capaces de sostener completas barbaridades e incluso negarlas para reducir la contradicción que nos supone.
Pero existe también la posibilidad de dejarnos de pamplinas y cambiar de idea. Aceptar lo que realmente es: Tortura.
3. La computación actual es extractivista
Del mismo modo que para afirmar que una hamburguesa es ética nos fijamos en toda una cadena sería de suponer que en lo digital también.
Aceptar que el ordenador que llevamos encima (un smartphone) con un montón de sensores, cámaras, micrófono, GPS, … es el producto de toda una cadena de suministro extractivista es sencillo. Con ignorarlo para mucha gente es suficiente pero se puede también aceptar que es así, que la computación actual es extractivista, y empezar a ver que podemos hacer para cambiarlo.
De algún modo aceptar la realidad y darle nombre a las cosas es buena cosa para poder cambiarla. Por tanto si queremos que la computación sea más ética quizás hemos de cambiarla.
4. Hacia una computación menos extractivista y más soberana
Pasos que propongo así de sopetón. Esto es como una lista de la compra en la que no se entra en detalles de como se realizaría.
Me puse a desgranar cada punto y esto terminaba siendo muy largo de modo que mejor simplemente dejar la idea genérica.
– Todo nuevo hardware comercializado ha de ser libre.
– Cadena de suministros del hardware de todos los componentes para su auditoria.
– Solamente se acepta que puedan comercializarse dispositivos altamente reparables.
– Estandarizar totalmente los cargadores y cables de carga y alimentación.
– Para facilitar la reparabilidad que se puedan abrir fácilmente, se puedan sustituir partes, diseño modular, …
– Todo software, firmware, … libre.
– Legislar para combatir la obsolescencia. Programada o sin programar.
– No se consienten monopolios de facto como las big techs.
– No permitir en la cadena de suministros componentes de países en conflicto o que no respeten los derechos humanos.
Todo esto tampoco convertiría a la computación en ética pero serviría para ir empezando. Recordemos que «La maldición de los recursos» afecta a zonas del mundo que las convierten en zonas de sacrificio. No necesariamente pese a ser ricas en recursos naturales luego su población lo es.
El conflicto en el Congo lleva ya más muertes que las 2 guerras mundiales juntas por poner un ejemplo bastante significativo.
Proyectos como Fairphone no son tampoco al 100% lo que pretenden pero son pasos. Existen proyectos muy interesantes también y motivadores para otro tipo de computación no tan extractivista: 56k.es/fanta/proyectos-inspiradores-de-computacion-no-extractivista/
5. No hables de soberanía si solamente hablas de la capa del software
Si dividimos todos los procesos en capas la del software libre sería solamente una. Una muy por encima de todo lo demás que si pensamos en un castillo de Naipes sería prácticamente de las últimas. Y creo que es en la que solemos centrarnos más porque es sobre la que tenemos algo más de control.
Y no estoy escribiendo esto en plan soberanía rollo militar, patriótico, etc … y si en plan «Soberanía alimentaria», pensando en como hacer que todo un proceso sea más ecológico, justo, cooperativo, colaborativo, no colonial, sin violar derechos humanos, etc …
Pero sigamos …
¿Es telegram libre? Existen clientes de software libre pero en si mismo telegram no es libre (aunque se que muchos lo usáis y defendéis a su jefe supremo de forma a mi juicio totalmente irracional).
El kernel Linux tampoco es libre, se ha de realizar una tarea de depuración de blobs binarios para afirmarlo y no todas las distros hacen eso.
MPlayer es libre pero no podríamos afirmarlo si su distribución viniese con 90 millones de álbumes recopilados sin consentimiento y con copyright.
O un engine de un juego que precisa los assets privativos del juego original. El engine es libre, pero sabemos que el juego en si mismo no.
Pero en definitiva el software libre existe, es una capa más y es importante.
6. No existe una IA ética – Recolectando cerezas
Se que me odias por afirmar esto pero voy a tratar de argumentarlo si me dejas y me sueltas el brazo amigo.
Pienso muchas veces en que mientras en el norte global la gente se siente mejor porque usa software libre muchas veces en el sur global son golpeados por las consecuencias (extractivismo, se comen la basura y chatarra de la digitalización, maldición de los recursos, colonización, conflictos, …).
Si, que el software libre es algo que me encanta y que prefiero ante el privativo pero … no puedo evitar decir que la tecnología actual es extractivista, la soberanía tecnológica no pasa solamente por el software libre y no existe una IA feminista o IA ética.
Y afirmo esto como también afirmo que la tauromaquia es Tortura.
Una persona puede llegar a pensar que ciertos usos de sistemas socio-técnicos como la IAgen son éticos pero NO la tecnología en si misma.
La tecnología no es neutral y es importante estar atentas a su gobernanza, diseño, fabricación, magnitud y escala. Porque este tipo de tecnologías están suponiendo una des-regulación y ruptura de acuerdos climáticos.
En estos debates siempre siento que alguien viene a defender a las grandes tecnológicas diciendo que él ha podido usar una IA libre en su ordenador en local. Pero vamos a ver amigo, ¿te aplaudo?
Algunas personas no lo hacen a mal, quieren tratar de decir que «Podemos no usar la IA de esas grandes empresas y tener la nuestra en el smartphone».
Mmmmm no se como decirlo pero podría ser en plan: Aparta los juguetes que vienen los mayores.
¿En que momento estás comparando un juguete con los cientos de centros de datos de hiperescala que se están usando para entrenar LLMs y luego ofrecer la IA como servicio mientras siguen entrenando modelos?
Me refiero a que no estamos hablando de la IA de los enemigos en el Quake 2. Me molesta esto porque es Cherry Picking. Te niegan o ignoran los impactos de esa tecnología (el elefante en la habitación) para centrarse en un caso aislado y se creen que por usar una IA en local ya por eso lo de las Big Techs esta todo bien.
En fin, ya he dejado esto escrito, me lo quito de la cabeza y así puedo ir cerrando con una frase molona de Kate Crawford:
“La Inteligencia Artificial no es artificial ni es inteligente, es corpórea y material”.
No es posible una IA ética si pensamos en la IA solamente en cuanto a sus posibles usos e ignoramos sus impactos sociales, ambientales, … porque creo que estaríamos llamando arte a la tauromaquia e ignorando que al toro lo torturan (vale, esto me ha quedado muy populista pero sinceramente lo pienso).
Si el feminismo es igualdad la tecnología extractivista está lejos de ello. Pero aquí todos (yo para escribir esto y tú para leerlo) estamos usando ordenadores. Podemos aceptar que existe una tensión, una disonancia cognitiva en nuestras ideas pero no enmascarar o invisibilizar la realidad por ello.
Como he escrito antes cuando lo aceptas puedes empezar a pensar en otras formas de hacer y caminar hacia una computación o tecnologías compatibles con el decrecimiento y la vida. Si optamos por negar la evidencia terminaremos inventando todo tipo de excusas para mantener nuestros privilegios (y eso lleva a posturas eugenesicas, aceleracionistas, …) y seguir pisoteando los derechos de quienes sufren los impactos.
Saludos cordiales.