punto-critico-abogados

Noam Chomsky sobre la Inteligencia Artificial

La alarmante opinión de Noam Chomsky sobre la Inteligencia Artificial de ChatGPT

El reconocido lingüista y filósofo escribió un artículo junto a dos especialistas, en el que compartió su visión sobre los avances que se han presentado en el campo de la inteligencia artificial. Acá, los motivos de por qué Noam Chomsky mira con escepticismo la tecnología de programas como ChatGPT, entre otros.

Por Alexis Paiva Mack

La Tercera, 27 ABRIL 2023

Noam Chomsky sobre la Inteligencia Artificial

Para los interesados en el ámbito de la tecnología, aplicaciones de inteligencia artificial (IA) como ChatGPT y DALL-E se han convertido en toda una tendencia. No solo porque, respectivamente, son capaces de elaborar textos o imágenes por su cuenta a partir de simples ideas que les entregan los usuarios, sino que también, porque algunos las utilizan para apoyar sus actividades diarias.

Numerosos especialistas e incluso el responsable de ambas, Sam Altman de OpenAI, han advertido que estas plataformas aún presentan errores, por lo que no es recomendable confiar en todo lo que reproducen tras reunir grandes cantidades de datos en internet.

Junto con ello, estos sistemas también han despertado la preocupación de algunos cibernautas. Por ejemplo, hace unas semanas se viralizó que el chatbot del motor de búsqueda de Microsoft, Bing, le dijo a un periodista del New York Times que le gustaría ser humano, “fabricar un virus mortal” y cometer una serie de “actos destructivos”.

Al poco tiempo después, un columnista del mismo periódico estadounidense publicó un artículo en el que explicó por qué estos programas caen en declaraciones tan extremistas y controversiales, un escenario que se potencia con la alta cantidad de fake news y alborotadores en el mundo digital.

Las opiniones en torno a la IA que se encuentra disponible al público abierto en la actualidad son variadas, aunque sus propios creadores suelen comunicar que son herramientas en desarrollo que podrían ser útiles para tareas más asertivas y avanzadas en un futuro.

Pero, si consideramos que estas aplicaciones tratan de simular el trabajo y las conversaciones de los seres humanos, ¿podríamos decir que su inteligencia se asemeja —al menos ahora— a la de las personas?

El reconocido lingüista y filósofo Noam Chomsky escribió un artículo sobre esta temática en el New York Times, en el que con el apoyo de su colega Ian Roberts y el experto en IA, Jeffrey Watumull, descifró las claves de esta pregunta.

Noam Chomsky: su alarmante visión sobre la Inteligencia Artificial de ChatGPT

Para el académico y sus colaboradores, los avances “supuestamente revolucionarios” que presentan los desarrolladores de la IA son motivo “tanto de optimismo como de preocupación”.

Desde la primera vereda, porque pueden ser útiles para resolver ciertas problemáticas, mientras que desde la segunda, porque “tememos que la variedad más popular y de moda de la inteligencia artificial (el aprendizaje automático) degrade nuestra ciencia y envilezca nuestra ética al incorporar a la tecnología una concepción fundamentalmente errónea del lenguaje y el conocimiento”.

Si bien, reconocieron que son eficaces en la tarea de almacenar inmensas cantidades de información —las cuales no necesariamente son verídicas— , estas no tienen una “inteligencia” como la de las personas.

Por muy útiles que puedan ser estos programas en algunos ámbitos concretos (como la programación informática, por ejemplo, o para sugerir rimas para versos ligeros), sabemos por la ciencia de la lingüística y la filosofía del conocimiento que difieren profundamente de la forma en que los seres humanos razonan y utilizan el lenguaje”, advirtieron, “estas diferencias imponen limitaciones significativas a lo que pueden hacer, codificándolos con defectos inerradicables”.

En este sentido, detallaron que a diferencia de los motores de apps como ChatGPT —que operan en base a la recolección de numerosos datos— , la mente humana puede funcionar con pequeñas cantidades de información, mediante las cuales “no busca inferir correlaciones brutas entre puntos (…) sino crear explicaciones”.

La “capacidad crítica” de los programas que funcionan con IA

Para sostener dicha premisa, ejemplificaron con el caso de los niños cuando están aprendiendo un idioma, escenario en el que a partir del poco conocimiento que tienen, logran establecer relaciones y parámetros lógicos entre las palabras y oraciones.

Esta gramática puede entenderse como una expresión del ‘sistema operativo’ innato genéticamente instalado, que dota a los seres humanos de la capacidad de generar frases complejas y largos trenes de pensamiento”, dijeron, para luego añadir que “es completamente distinto al de un programa de aprendizaje automático”.

Bajo esta línea, manifestaron que estas aplicaciones no son realmente “inteligentes”, debido a que carecen de capacidad crítica. Si bien, pueden describir y predecir “lo que es”, “lo que fue” y «lo que será”, no son capaces de explicar “lo que no es” y “lo que no podría ser”.

Supongamos que tienes una manzana en la mano. Ahora la sueltas, observas el resultado y dices: ‘La manzana cae’. Eso es una descripción. Una predicción podría haber sido la afirmación: ‘caerá si abro la mano’. Ambas son valiosas y pueden ser correctas. Pero una explicación es algo más: incluye no solo descripciones y predicciones, sino también conjeturas contrafácticas como ‘cualquier objeto de este tipo caería’, más la cláusula adicional ‘debido a la fuerza de la gravedad’ o ‘debido a la curvatura del espacio-tiempo’”.

De esta manera, añadieron que “eso es una explicación causal: ‘la manzana no habría caído de no ser por la fuerza de la gravedad’ (…) eso es pensar”.

Y pese a que las personas también podemos cometer errores en cuanto a nuestro razonamiento, enfatizaron en que errar es parte del pensamiento, ya que “para tener razón, debe ser posible equivocarse”.

ChatGPT y programas similares son, por diseño, ilimitados en lo que pueden ‘aprender’ (es decir, memorizar); son incapaces de distinguir lo posible de lo imposible. A diferencia de los humanos, por ejemplo, que estamos dotados de una gramática universal que limita los idiomas que podemos aprender a aquellos con un cierto tipo de elegancia casi matemática, estos programas aprenden idiomas humanamente posibles y humanamente imposibles con la misma facilidad”.

La perspectiva moral desde la Inteligencia Artificial

Otro factor que Chomsky, Roberts y Watumull consideraron en su análisis, es que los sistemas de IA carecen de razonamiento desde una perspectiva moral, por lo que son incapaces de distinguir bajo marcos éticos lo que se debe o no hacer.

Para ellos, es clave que los resultados de ChatGPT sean “aceptables para la mayoría de los usuarios” y que se mantengan “alejados de contenidos moralmente censurables” (como las declaraciones de “actos destructivos” del chatbot de Bing).

Y pese a que los desarrolladores de estas tecnologías han añadido restricciones para que sus programas no reproduzcan este tipo de afirmaciones, los académicos recalcaron que hasta el momento no se ha podido llegar a un balance efectivo. En sus palabras, sacrifican la creatividad por “una especie de amoralidad” que hace que se alejen aún más de las capacidades de los seres humanos.

En resumen, ChatGPT y sus hermanos son constitutivamente incapaces de equilibrar la creatividad con la restricción. O bien sobregeneran (produciendo tanto verdades como falsedades, respaldando decisiones éticas y no éticas por igual), o bien infrageneran (mostrando falta de compromiso con cualquier decisión e indiferencia ante las consecuencias)”, sentenciaron.

*******

El avance de la desinformación y la inteligencia artificial amenazan la libertad de prensa en todo el mundo

En su informe anual, Reporteros Sin Fronteras advierte del deterioro de la situación en numerosos países y del uso de «campañas de manipulación inéditas»

El Mundo, 03 MAYO 2023
Joe Biden, frente a un cartel con el rostro del periodista detenido en Rusia, Evan Gershkovich.SAUL LOEBAFP

El avance de las campañas de desinformación, una auténtica «industria del simulacro« que a veces no permite distinguir lo verdadero de lo falso, es una de los mayores amenazas para la libertad de prensa actualmente, según advierte Reporteros sin Fronteras (RSF) en su informe anual de 2023 sobre la situación de sector y que se ha difundido este miércoles. Estas herramientas de manipulación ejercidas por parte de los gobiernos afectan a 118 países de los 180 analizados por esta organización, que tiene sede en París.

Una situación que se ha agravado con la guerra de Ucraniapero también con el desarrollo de la Inteligencia Artificial, capaz de generar imágenes tan fieles a la realidad que es difícil para el usuario distinguir si son falsas o no.

Estas son las conclusiones del informe de 2023, que analiza la situación de la prensa en 180 países. Un total de 118 reconocen la implicación de actores políticos en las campañas de desinformación masiva o de propaganda, de manera regular o sistemática. «Esta volatilidad e inestabilidad es el efecto de una agresividad del poder en numerosos países contra los periodistas no sólo en el mundo físico, también en las redes sociales. También es producto del crecimiento de la industria del simulacro, que distribuye la desinformación y da herramientas para fabricarla«, señala el secretario general de RSF, Christophe Deloire, en el informe.

La inteligencia artificial es otra de las amenazas para la prensa, y «ha sacudido el frágil mundo de los medios, pues la diferencia entre lo verdadero y lo falso, lo real y lo artificial, los hechos y los artefactos se difumina, poniendo en peligro el derecho a la información«, señala el informe.

El análisis es bastante crítico al respecto y recalca que se utilizan «herramientas de manipulación inéditas para debilitar a los que ejercen el periodismo de calidad, al mismo tiempo que debilitan al periodismo mismo«.

La industria de la desinformación «difunde produccciones manipuladoras a gran escala« y la Inteligencia Artificial «digiere contenidos informativos para dar lugar a síntesis que ignoran el rigor y la fiabilidad«. RSF hace referencia a Midjourney, la plataforma que genera imágenes por IA y que ha permitido que se publiquen situaciones falsas como la detención de Donald Trump o la del Papa Francisco paseando con un abrigo blanco.

Redes Sociales, «arenas movedizas» para el periodismo

En su análisis, RSF cita a Elon Musk, el dueño de Twitter, que «ha impuesto una lógica extrema, arbitraria y de censura» en esta red social, demostrando «que estas plataformas son arenas movedizas para el periodismo«.

La guerra en Ucrania, donde Rusia ha puesto en marcha en poco tiempo «un arsenal mediático«, es el mejor ejemplo del avance de estas campañas de desinformación. De los 180 países analizados, Rusia ocupa la plaza 164 en libertad de prensa, cae nueve puestos, y en Ucrania (puesto 79) ejercer el periodismo «nunca ha sido tan difícil«, señala la organización.

Según RSF, la situación de la libertad de prensa es muy grave en una treintena de países, difícil en 42 y problemática en 55. Sólo en medio centenar la situación es buena o muy buena, la mayoría de estos países están en Europa. España desciende cuatro posiciones, pasando del 32 al puesto 36 este año, y está por debajo de Namibia, Moldavia, Costa Rica, Portugal, Lituania o Taiwán, entre otros muchos países.

RSF hace especial mención a Latinoamérica, donde el nivel de asesinatos de periodistas y reporteros está al nivel del de los países en guerra. También destaca que China es «la mayor cárcel de periodistas del mundo» y una de las mayores maquinarias de propaganda. Destaca en positivo Brasil, que adelanta posiciones en esta lista gracias al cambio de Gobierno, al haber dejado atrás el del ultraderechista Jair Bolsonaro.

Algunos países nórdicos lideran la lista, como Noruega (primero de la lista), Suecia, (cuarto) y Finlandia (quinto), mientras que Irlanda ocupa el segundo lugar. Dentro de Europa, el informe advierte de la situación de Alemania, que pierde cinco plazas en un «año récord de actos violentos y detenciones a periodistas«.

*******

*******

Inteligencia Artificial: el GPT logró leer el pensamiento de las personas y traducirlo en palabras

Investigadores de la Universidad de Texas utilizaron un resonador magnético para convertir las gráficas de un escáner cerebral en textos y frases similares a los que el paciente estaba escuchando, a través del sistema de AI

INFOBAE, 03 MAYO 2023
El estudiante Jerry Tang prepara al paciente para recopilar datos de su actividad cerebral dentro del resonador magnético (Nolan Zunk/Universidad de Texas en Austin)

Antes de utilizarlo en tres pacientes, el neurólogo Alexander Huth se acostó en una máquina de resonancia magnética en el edificio de investigación de neurociencia de la Universidad de Austin, en Texas, donde trabajaba. Se cubrió con una manta para evitar el frío del imán de la máquina y auriculares insonorizados para ahogar su zumbido. Sin embargo, el sonido en los auriculares se escuchaba alto y claro: era un podcast del New York Times y monólogos de un popular programa anglosajón mientras le escaneaban el cerebro.

Utilizando un programa basado en Inteligencia Artificial (IA) y particularmente el programa GPT-1, una computadora logró decodificar y describir la esencia de las historias que escuchó él y los tres participantes iniciales en el experimento de prueba de concepto, simplemente mirando sus resonancias magnéticas funcionales. Según sus resultados, publicados en la revista científica Nature Neuroscience, este descodificador que han llamado “semántico” fue capaz también de verbalizar lo que pensaban y observaban mientras veían cine mudo.

Escuchar esas líneas estimuló la actividad cerebral, las neuronas se dispararon y consumieron el oxígeno en su sangre. A medida que la sangre desoxigenada fluía de regreso a sus pulmones y corazón, el imán captó su señal, decodificando qué partes de su cerebro estaban procesando lo que había escuchado. Los investigadores han desarrollado el primer método no invasivo para determinar la esencia del habla imaginada, presentando una posible salida de comunicación para las personas que no pueden hablar.

El decodificador puede reconstruir el habla utilizando datos de escaneo fMRI.

Los expertos utilizaron el programa GPT-1. Este modelo de lenguaje, desarrollado por el laboratorio de inteligencia artificial OpenAI, usa aprendizaje profundo para generar texto. En esta investigación, lo entrenaron con las imágenes fMRI del cerebro de tres personas a las que hicieron oír 16 horas de audios de un podcast del New York Times y del programa The Moth Radio Hour, logrando hacer corresponder lo que veían con su representación en la cabeza. La idea es que, cuando volvieran a oír otro texto, el sistema pudiera ir anticipándolo basándose en los patrones de lo ya aprendido.

Nos sorprendió un poco que funcione tan bien como lo hace. He estado trabajando en esto durante 15 años así que fue impactante y emocionante cuando finalmente funcionó”, explicó Huth, el neurocientífico que dirigió el trabajo en la Universidad de Texas, en Austin. “Se trata del GPT original, no como el nuevo [ChatGPT se apoya en la última versión de GPT, la 4]. Recopilamos una tonelada de datos y luego construimos este modelo, que predice las respuestas cerebrales a las historias”, agregó.

El decodificador podría reconstruir el habla con una precisión asombrosa mientras las personas escuchaban una historia, o incluso imaginaban una en silencio, utilizando solo datos de escaneo fMRI. Los sistemas de decodificación de idiomas anteriores requerían implantes quirúrgicos colocar una serie de electrodos directamente en el cerebro. Pero este último avance plantea la posibilidad de nuevas formas de restaurar el habla en pacientes que luchan por comunicarse debido a un accidente cerebrovascular o una enfermedad de la neurona motora.

Alex Huth (izquierda), Shailee Jain (centro) y Jerry Tang (derecha) se preparan para recopilar datos de actividad cerebral en el Centro de Imágenes Biomédicas de la Universidad de Texas en Austin (Nolan Zunk/Universidad de Texas en Austin)

Una nueva era

La llegada de grandes modelos de lenguaje, del tipo de IA que sustenta ChatGPT de OpenAI, proporcionó una nueva forma de “hacer hablar a las personas que no pueden hacerlo”. Estos modelos pueden representar, en números, el significado semántico del habla, lo que permite a los científicos observar qué patrones de actividad neuronal correspondía a cadenas de palabras con un significado particular en lugar de intentar leer la actividad palabra por palabra.

Este descodificador recibió el nombre de semántico. Anteriores interfaces registraban la actividad cerebral en las áreas motoras que controlan la base mecánica del habla, es decir, los movimientos de boca, laringe o lengua. “Lo que pueden descodificar es cómo la persona está tratando de mover la boca para decir algo. Nuestro sistema funciona en un nivel muy diferente. En lugar de fijarnos en el ámbito motor de bajo nivel, trabaja en el nivel de las ideas, de la semántica, del significado.Por eso no registra las palabras exactas que alguien escuchó o pronunció, sino su sentido, explicó Huth. Para esto, aunque las resonancias registraban la actividad de varias zonas cerebrales, se centraron más en las relacionadas con la audición y el lenguaje. La continuación de las pruebas prosiguió en una docena de pacientes, siempre con buenos resultados.

El proceso de aprendizaje fue intensivo: se requirió al principio quetres voluntarios permanecieran acostados en un escáner durante 16 horas cada uno, escuchando podcasts. El decodificador fue entrenado para hacer coincidir la actividad cerebral con el significado utilizando un modelo de lenguaje grande, GPT-1, un precursor de ChatGPT. Más tarde, los mismos participantes fueron escaneados escuchando una nueva historia o imaginando contar una historia y el decodificador se usó para generar texto solo a partir de la actividad cerebral. Aproximadamente la mitad de las veces, el texto coincidía estrechamente, y a veces con precisión, con los significados previstos de las palabras originales.

Los avances en el estudio del cerebro y su funcionamiento prometen ser más amplios gracias a la IA

El decodificador que creó Huth nunca pregunta directamente en qué estaba pensando una persona. En su lugar, utiliza un modelo de “codificación” en un bucle para crear el efecto de “descodificación”. Los investigadores utilizaron GPT-1 para generar posibles conjeturas sobre qué frases escuchó la persona. Luego, utilizando el modelo de “reenvío” o “codificación” que predice la actividad cerebral en función de una frase, modelaron la actividad cerebral que esa frase podría evocar. Al comparar el escaneo predicho con el escaneo real, clasificaron las frases adivinadas de mejor a peor, agregando más palabras a la frase.

Nuestro sistema funciona a nivel de ideas, semántica, significado”, dijo Huth. “Esta es la razón por la que lo que sacamos no son las palabras exactas, es la esencia”. Por ejemplo, cuando a un participante se le reprodujeron las palabras: “‘No sabía si gritar, llorar o salir corriendo. En lugar de eso, dijo: ¡Déjame en paz!’” se decodificaron como “‘Empecé a gritar y llorar, y luego ella (la máquina) simplemente dijo: ‘Te dije que me dejaras en paz’”. También se les pidió a los participantes que miraran cuatro videos cortos y silenciosos mientras estaban en el escáner, y el decodificador pudo usar su actividad cerebral para describir con precisión parte del contenido.

Para un método no invasivo, este es un verdadero avance en comparación con lo que se ha hecho antes, que generalmente son palabras sueltas o oraciones cortas”, dijo Huth. A veces, el decodificador se equivocaba y tenía problemas con ciertos aspectos del lenguaje, incluidos los pronombres. “No sabe si es en primera o tercera persona, hombre o mujer”, dijo Huth.

La inteligencia permite ayudar a decodificar el lenguaje (Freepik)

El profesor Tim Behrens, un neurocientífico computacional de la Universidad de Oxford que no participó en el trabajo, lo describió como “técnicamente extremadamente impresionante” y dijo que abrió una gran cantidad de posibilidades experimentales, incluida la lectura de pensamientos de alguien que sueña o investiga cómo nuevas ideas. surgen de la actividad cerebral de fondo. “Estos modelos generativos te permiten ver lo que hay en el cerebro a un nuevo nivel. Significa que realmente puedes leer algo profundo de la fMRI”, agregó.

Esto es realmente genial, ya que las aportaciones de GPT contienen la semántica del habla, no las propiedades articulatorias o acústicas, como se hacía en anteriores programas como ICB. Muestran que el modelo entrenado en lo que se oye puede descodificar la semántica de películas mudas y también del habla imaginada”. Este científico está “absolutamente convencido de que la información semántica se utilizará en las interfaces cerebro máquina para hablar en el futuro”, indicó el neurocientífico Christian Herff lidera la investigación en interfaces cerebro máquina en la Universidad de Maastricht (Países Bajos) que no participó del experimento.

Anticipándose a estos temores, los autores de los experimentos quisieron comprobar si podían usar su sistema para leer la mente de otros sujetos. Por fortuna, comprobaron que el modelo entrenado con una persona no acertaba a descifrar lo que oía o veía otra. Para asegurarse, realizaron una última serie de ensayos. Esta vez pidieron a los participantes que contaran de siete en siete, pensaran y nombraran animales o se inventaran una historia en su cabeza mientras oían los relatos. Aquí, la interfaz apoyada en GPT, con toda la tecnología que lleva una máquina de resonancia magnética y todos los datos manejados por la IA, falló progresivamente.

Hay dos componentes clave que hicieron posible el nuevo decodificador cerebral: el tesoro de datos recopilados sobre unos pocos participantes, en lugar de las pocas horas habituales de datos sobre muchos participantes, y el advenimiento de los modelos de lenguaje.

*******

Be the first to comment

Leave a Reply

Tu dirección de correo no será publicada.


*