El capitalismo y el pedido de frenar los avances en Inteligencia Artificial

Expertos en tecnología y magnates empresarios publicaron una carta abierta solicitando que cese el desarrollo en Inteligencia Artificial al menos por seis meses. ¿Un peligro real? El problema del capitalismo y las nuevas tecnologías.

0
66

Las condiciones burguesas de producción y de cambio, el régimen burgués de la propiedad, toda esta sociedad burguesa moderna, que ha hecho surgir tan potentes medios de producción y de cambio, se asemejan al aprendiz de brujo que no sabe dominar las potencias infernales que ha invocado.

Karl Marx y Friedrich Engels, El Manifiesto Comunista

«¿Deberíamos arriesgar la pérdida del control de nuestra civilización?». Esa es la ominosa pregunta que se hacen sobre la Inteligencia Artificial algunos de los más importantes representantes de la industria tecnológica del mundo.

Un grupo de expertos en tecnología de software y magnates empresarios de la relevancia de personajes como Elon Musk y Steve Wozniak (co fundador de Apple) publicaron una carta abierta solicitando a todos los laboratorios de Inteligencia Artificial que cesen el entrenamiento y desarrollo de nuevas tecnologías más potentes que chatGPT-4. Piden una pausa de seis meses a todas las investigaciones en curso.

Las noticias sobre el creciente desarrollo de la Inteligencia Artificial se venían acumulando hace ya algunos años. Y, ahora, millones sabemos que algunos de los principales responsables de estas nuevas tecnologías advierten que «la humanidad» (ni más ni menos) estaría en peligro.

Que muchas de estas firmas sean de empresarios que poco tienen que ver con la investigación en sí, como Elon Musk, cambia poco. Se puede desconfiar de personas con más mérito en cómo se venden a sí mismos y lo que producen otros que en sus aportes a la ciencia y tecnología. Es incluso inteligente hacerlo.

Pero hay dos cosas en esta carta que son muy poco comunes. La primera, que sean parte de esta alarma tantos expertos que no son meros comerciantes de ideas ajenas. La segunda, no es muy común ver que capitalistas con todos los recursos para llevar la delantera en la competencia en nuevos desarrollos tecnológicos llamen a detenerla. Estas cosas solamente pasan cuando los empresarios sienten el peligro de sufrir en carne propia las consecuencias de su propia actividad.

Todas las relaciones sociales modernas están mediadas por la tecnología de la comunicación, de internet, de la informática. La logística, la organización de la producción, la distribución de necesidades básicas… incluso las afectivas y sexuales. La advertencia de la «carta» parece ser esta: la humanidad podría perder el control de algunas de esas palancas fundamentales de la civilización contemporánea.

No es poco y suena exagerado. Pero a esta altura parece ser más prudente tomarla en serio. Es útil recordar lo difícil que fue para la mayoría de nosotros escuchar con la atención suficiente las primeras advertencias sobre la gravedad del covid-19.

Hay que saber que las motivaciones de esta carta pueden ser meramente comerciales: muchos de los principales desarrollos en nuevas IAs son de empresas más pequeñas, que pueden llegar a hacerle sombra a monstruos como Apple y Google.

La cultura de la ciencia ficción parece haberse adelantado en varias décadas a los problemas del capitalismo moderno. Si la pandemia y los sistemas de vigilancia nos remiten a las distopías, la Inteligencia Artificial trae a la realidad los dramas existenciales planteados por el cyberpunk.

Películas clásicas como Blade Runner y Ghost in the Shell nos mostraban un futuro no muy distante en el que sus personajes debían lidiar con el conflicto de no poder establecer claramente las fronteras entre lo humano y lo artificial, entre la personalidad y sus imitaciones. Ambas dejaban planteada una conclusión terrible: que la distinción entre una cosa y otra ya no era posible. Estamos lejos de eso, que sigue siendo ciencia ficción, pero nuestros problemas comienzan a parecerse a los de la ciencia ficción. Y no a los escritos por los optimistas del género.

Marx decía que la fetichización de las relaciones sociales capitalistas implicaba que se nos presenten como relaciones entre cosas lo que son relaciones entre personas. Los precios, por ejemplo, se nos presentan como relaciones entre el dinero y las mercancías, cuando en realidad son una relación entre productores, compradores y vendedores. La advertencia sobre la Inteligencia Artificial parece plantear un problema nuevo: que las relaciones sociales entre personas mediadas por cosas (celulares, internet…) comiencen a convertirse en relaciones de personas con cosas, muchas veces sin que podamos realmente darnos cuenta.

El capitalismo y la tecnología

Este momento en nuestra historia podría ser el primer capítulo de un muy largo debate, uno que dure generaciones. No es la primera vez que un avance en las fuerzas productivas derive en peligros inmensos, en fuerzas destructivas. Los combustibles fósiles fueron un gran salto adelante que nos llevó a la actual crisis climática. El desarrollo científico desinteresado permitió luego el de las armas nucleares. Si el peligro de una guerra nuclear nunca se disipó del todo y hoy parece regresar, la advertencia décadas atrás sobre el cambio climático comienza a convertirse en una catastrófica y actualísima realidad.

Al menos por ahora, las advertencias de la carta abierta no deberían ser tomadas a la ligera. Ahora bien, con solamente leer la carta se puede advertir algo importante. Como con otros desarrollos previos, la tecnología por sí misma no es el único peligro.

Su forma específicamente capitalista, orientada a la caótica lucha por el lucro, es el principal de los problemas. Contra todo pronóstico, ya en el primer párrafo de la carta abierta, personajes como Elon Musk hacen lo que parece ser un alegato anticapitalista muy claro:

«Según los Principios de IA de Asilomar ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debería ser planificada y gestionada con recursos y cuidados correspondientes. Desafortunadamente, este nivel de planificación y gestión no está sucediendo, aunque en los últimos meses los laboratorios de IA han estado encerrados en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable».

Las advertencias sobre la «carrera fuera de control para desarrollar e implementar mentes digitales» es una descripción bastante exacta de cómo funciona el capitalismo mismo. El pedido de «planificación con recursos y cuidados correspondientes», la de una sociedad que no es la actual.

Los firmantes hablan de la necesidad de establecer una serie de protocolos de seguridad que sean de carácter normativo. Además, el cumplimiento de estos protocolos debería ser auditable por expertos externos.

Los «controles» de este tipo se han intentado hacer bajo el régimen de la propiedad privada de los medios de producción una y otra vez. Se han parecido siempre a los intentos de frenar la marea con las manos: si algo de agua puede quedar entre los dedos, la corriente sigue su curso. El límite ha sido siempre la soberanía absoluta de la propiedad capitalista. Si los sindicatos y las leyes laborales han logrado mitigar las explotación para millones, las peores formas de esclavitud asalariada reaparecen siempre bajo nuevas formas y en nuevos lugares. Si las regulaciones y protocolos ambientales frenan parcialmente la destrucción del planeta, vuelve con vigor con nuevas «industrias» (como el minado de criptomonedas) y en países con recursos todavía por saquear. Esto último sin que los grandes emisores de CO2 dejen nunca de serlo.

La carta también expresa la necesidad de la creación de un marco regulatorio, que contemple alguna forma de rastreo de las IAs. No solo eso sino que además pide la creación de instituciones para hacer frente a los dramáticos cambios políticos y económicos que pudiera ocasionar. Algunos de los más notorios y rabiosos partidarios del «libre mercado» como Elon Musk nos traen de nuevo las viejas utopías del siglo XX de un capitalismo racionalizado y regulado. Las mismas que se esfumaron cuando desapareció el peligro del «socialismo real», de los regímenes burocráticos autodenominados «comunistas».

La tecnología y sus consecuencias son también una relación social específica. Lo que en ciertas condiciones podría ser un inmenso beneficio para la humanidad se convierte en regresión y barbarie en otras. Ya Marx clásicamente lo decía respecto a la maquinaria fabril: lo que racionalmente podría acortar el tiempo de trabajo no hace sino alargarlo para los que tienen la suerte de seguir empleados.

La Inteligencia Artificial, el capitalismo, la cultura y la «democracia»

Un artículo muy interesante salió en el New York Times sobre esta temática, luego de la publicación de la carta abierta. Firmada por Yuval Harari, Tristan Harris y Aza Raskin, fue traducido al español por La Nación. En general, el gran problema del artículo es su optimismo (ingenuo o cínico, lo mismo da) en los «controles» sobre el capitalismo. Pero tiene afirmaciones interesantes. Sobre todo, el planteo de que hay ya un antecedente del problema planteado por la Inteligencia Artificial, los algoritmos de las redes sociales:

El primer contacto entre la IA y la humanidad fueron las redes sociales, y la humanidad perdió. Pero ese primer contacto al menos nos ha dejado el sabor amargo de lo que nos espera. En las redes sociales, la primitiva IA no se usaba para generar contenidos, sino para seleccionar contenidos generados por los usuarios. La IA que alimenta nuestros feeds de noticias es la que elige las palabras, los sonidos y las imágenes que llegan a nuestras retinas y tímpanos, seleccionando aquellas con mayor potencial de viralización, mayor repercusión y mayor participación de otros usuarios.

 

Por primitiva que fuese, la IA que está detrás de las redes sociales alcanzó para crear una cortina de ilusiones que fogoneó la polarización social, dinamitó nuestra salud mental y dejó a la democracia hecha jirones. Millones de personas confunden esas ilusiones con la realidad. Estados Unidos tiene la mejor tecnología informática de mundo, pero sus ciudadanos ya no logran ponerse de acuerdo sobre el ganador de las elecciones. Aunque ya todo el mundo es consciente de los problemas que entrañan de las redes sociales, nadie aborda esos riesgos porque muchas de nuestras instituciones sociales, económicas y políticas quedaron enredadas.

En efecto. Las redes sociales han permitido la difusión de los planteos y las teorías más delirantes: el terraplanismo, la pandemia «inventada», los chips en las vacunas, el regreso a la vida de Kennedy para el apoyo a Trump… A todo esto se lo ha llamado «la era de la posverdad» o fake news.

El artículo, sin embargo, peca de unilateral cuando responsabiliza solo a las nuevas tecnologías de esta realidad. No son ellas en sí mismas sino su desarrollo y uso específicamente capitalista los que le han abierto el camino a este nuevo fenómeno. Hay que recordar que, en su momento, Twitter reconoció que su algoritmo beneficiaba la propagación de los mensajes de extrema derecha.

Las fake news, las noticias falsas, no son cosas nuevas en sí mismas. Es verdad lo que dicen los autores del artículo: «Por lo general, los humanos no tenemos acceso directo a la realidad: estamos envueltos por la cultura y experimentamos la realidad a través de un prisma cultural. Nuestras opiniones políticas se moldean al calor de los informes periodísticos y las charlas con los amigos. Nuestras preferencias sexuales se ven modificadas por el arte y la religión». La vieja propaganda antisemita del fascismo eran puras fake news mediadas por la imprenta y el papel en vez del internet y los celulares. En la era de las redes sociales lo que ha cambiado es la forma de las noticias falsas.

El «prisma cultural» del que hablan son también las instituciones: el Estado, las Iglesias, los partidos, etc. Las viejas fake news solían aparecer y difundirse de manera centralizada: las cúpulas del cristianismo durante siglos difundieron ampliamente el antisemitismo, las direcciones fascistas lo usaron en el siglo XX. Creer delirios estaba determinado por una relación más o menos directa de confianza en una organización conformada por personas con cara y nombre. Con las redes sociales, la «posverdad» toma otra forma: anónimamente, surge una «noticia» que mucha gente cree pese a no tener idea de quién la emitió, las redes sociales y su algoritmo le dan impulso a la mentira sin responsable identificable.

A las viejas instituciones se les sumó un nuevo actor: las empresas informáticas, los capitalistas de las nuevas tecnologías. Demagogos de la extrema derecha vienen haciendo uso de esta ventaja usando estas novedades como plataforma. Los prejuicios preexistentes por abajo se combinaron con empresas y figuras por arriba que le dieron lugar a nuevos delirios, muy parecidos a los del viejo fascismo. Basta recordar a una conductora de televisión tomando dióxido de cloro al aire como «medicina» contra el coronavirus.

Ahora bien, los creadores de información falsa siguen siendo personas, las redes sociales sólo las difunden. ¿Qué puede pasar si también la Inteligencia Artificial puede «crear» contenidos, noticias, incluso arte? La diferencia entre lo que es verdad y es mentira podría hacerse todavía mucho más difícil de distinguir. Un tweet o un mensaje de whatsapp con fake news podría no haber sido emitido por una persona pero que aparente que sí. En efecto, esa posibilidad es peligrosa.

Volvamos al principio de este artículo. Tomando en serio las advertencias de personajes como Musk y Wozniak: ¿cómo podría pasar todo esto? La Inteligencia Artificial no ha tomado el control de nada, las palancas fundamentales de las relaciones humanas siguen en manos humanas. Ellos mismos lo han dicho: la «competencia desenfrenada» y el uso irresponsable de las nuevas tecnologías pueden estar creando un nuevo peligro.

La única solución realista posible a largo plazo es que la tecnología deje de estar en manos de los dueños de una sociedad basada en la «competencia desenfrenada», de personas que (como Elon Musk) son aliados de los peores creadores de fake news del mundo. El lucro capitalista puede llevarnos a un nuevo y catastrófico problema… otra vez.

Terminar con la propiedad privada capitalista de las nuevas tecnologías, ponerlas bajo control de la sociedad, de los trabajadores y el pueblo, tal es la única solución posible a los peligros destructivos de estos progresos. 

La carta completa

Los sistemas de inteligencia artificial (IA) con inteligencia competitiva humana pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y reconocido por los principales laboratorios de IA. Según los Principios de IA de Asilomar ampliamente respaldados, la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debería ser planificada y gestionada con recursos y cuidados correspondientes. Desafortunadamente, este nivel de planificación y gestión no está sucediendo, aunque en los últimos meses los laboratorios de IA han estado encerrados en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable.

 

Los sistemas de IA contemporáneos están comenzando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Deberíamos automatizar todos los trabajos, incluso los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, inteligencia, obsolescencia y reemplazo? ¿Deberíamos arriesgar la pérdida del control de nuestra civilización? Tales decisiones no deben ser delegadas a líderes tecnológicos no elegidos. Los sistemas de IA poderosos deben desarrollarse solo cuando estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables. Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. La declaración reciente de OpenAI sobre la inteligencia artificial general afirma que «en algún momento, puede ser importante obtener una revisión independiente antes de comenzar a capacitar a los sistemas futuros, y para los esfuerzos más avanzados, acordar limitar la tasa de crecimiento del cómputo utilizado para crear nuevos modelos». Estamos de acuerdo. Ese momento es ahora.

 

Por lo tanto, hacemos un llamado a todos los laboratorios de IA para que detengan inmediatamente durante al menos 6 meses la capacitación de sistemas de IA más poderosos que GPT-4. Esta pausa debe ser pública y verificable e incluir a todos los actores clave. Si no se puede aplicar rápidamente una pausa de este tipo, los gobiernos deben intervenir e instituir un moratorio.

 

Los laboratorios de IA y los expertos independientes deben usar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos independientes externos. Estos protocolos deben garantizar que los sistemas que los cumplan sean seguros más allá de toda duda razonable. Esto no significa una pausa en el desarrollo de IA en general, simplemente un retroceso en la peligrosa carrera hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes.

 

La investigación y el desarrollo de la IA deberían centrarse en hacer que los sistemas de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

Al mismo tiempo, los desarrolladores de IA deben trabajar con los responsables políticos para acelerar dramáticamente el desarrollo de sistemas sólidos de gobernanza de la IA. Estos deberían incluir como mínimo: nuevas autoridades regulatorias capaces y dedicadas a la IA; supervisión y seguimiento de sistemas de IA altamente capaces y grandes conjuntos de capacidades computacionales; sistemas de procedencia y marca de agua para ayudar a distinguir lo real de lo sintético y rastrear las fugas de modelos; un ecosistema sólido de auditoría y certificación; responsabilidad por daños causados por la IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente a la democracia) que la IA causará.

 

La humanidad puede disfrutar de un futuro próspero con la IA. Después de haber logrado crear sistemas de IA poderosos, ahora podemos disfrutar de un «verano de la IA» en el que cosechamos las recompensas, diseñamos estos sistemas para el beneficio claro de todos y damos a la sociedad la oportunidad de adaptarse. La sociedad ha pausado otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de un largo verano de la IA, sin apresurarnos sin preparación hacia un otoño.

Sumate a la discusión dejando un comentario:

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí