Chomsky firma carta para alertar de los riesgos por los avances en chats que utilizan inteligencia artificial
El filósofo Noam Chomsky, el profesor de lingüística Ian Roberts y el experto en inteligencia artificial (IA) Jeffrey Watumull mostraron ayer su optimismo sobre los nuevos avances de los chats de inteligencia artificial (IA), pero, sobre todo, advirtieron de sus peligros y su amoralidad.
En una columna conjunta de opinión publicada este miércoles en el diario The New York Times, los tres intelectuales alaban los nuevos programas ChatGPT (OpenAI), Bard (Google) y Bing (Microsoft) por su capacidad para resolver problemas, pero también de su "preocupación" por estos sistemas que caracterizan por su "amoralidad, falsa ciencia e incompetencia lingüística".
"Tememos que la variedad más popular y más de moda de la inteligencia artificial -el aprendizaje de las máquinas- degrade nuestra ciencia y envilezca nuestra ética al incorporar a nuestra tecnología una concepción fundamentalmente errónea del lenguaje y del conocimiento", escribieron. Aseguran que aunque estos programas han sido aclamados como "los primeros destellos en el horizonte" de una inteligencia artificial en la que las mentes de las máquinas superen a los cerebros humanos en cantidad y calidad, tanto intelectual, como artística y creativa, todavía no se ha llegado a ese momento.
Según Chomsky, Roberts y Watumull, los usos de programas como ChatGPT pueden ser útiles en algunos campos "limitados" como la programación computacional o "sugiriendo rimas para versos ligeros", pero sus profundas diferencias con los humanos en el razonamiento y en el uso del lenguaje suponen "limitaciones significativas sobre lo que pueden hacer esos programas".
Para estos científicos "estos programas están estancados en una fase prehumana o no humana de la evolución cognitiva".
"Su defecto más profundo es la ausencia de la capacidad más crítica que posee cualquier inteligencia: decir no solo lo que ocurre, lo que ocurrió y lo que ocurrirá -eso es describir y predecir-, sino también lo que no ocurre y lo que podría y no podría ocurrir", aseguran antes de subrayar que estos son los ingredientes de una explicación, "la señal de una verdadera inteligencia".
Argumentan que, a diferencia de las máquinas "el pensamiento de estilo humano se basa en posibles explicaciones y corrección de errores, un proceso que limita gradualmente qué posibilidades se pueden considerar racionalmente".
En este sentido, citan como ejemplo una frase de Sherlok Holmes al Dr. Watson: "Cuando hayas eliminado lo imposible, lo que quede, por improbable que sea, debe ser la verdad".
Sostienen que la inteligencia verdadera es capaz de un pensamiento moral, mientras que los robots conversacionales han luchado y siguen luchando para conseguir el equilibrio entre crear contenido y alejarse de lo moralmente objetable.
Ausencia los firmantes de la carta sostienen que el principal defecto de esta tecnología es la falta en ella de capacidad crítica.