Durante los últimos 35 años se ha consolidado la argumentación de que las redes neuronales artificiales no serían capaces de competir con la mente humana, pero un equipo de investigadores ha demostrado ahora que el método de inteligencia artificial que han desarrollado sí muestra una capacidad de generalización similar, y a veces mejor, a la humana.

Dos investigadores, Brenden Lake (Universidad de Nueva York) y Marco Baroni (Universidad Pompeu Fabra) lideraron un trabajo en el que ponen de relieve que la red neuronal que desarrollaron tiene habilidades similares a las humanas en la generalización sistemática, lo que significa que tiene capacidad para aprender nuevos conceptos y de combinarlos con otros ya existentes.

Los humanos sí son capaces de aprender un concepto nuevo y de utilizarlo después para comprender otros usos relacionados. Por ejemplo, un niño aprende a saltar, pero inmediatamente aprende a dar saltos alrededor de una habitación, saltar con los brazos en alto, o saltar hacia adelante y hacia atrás.

Pero ¿pueden las máquinas emular ese comportamiento? Estos investigadores desarrollaron una técnica -que bautizaron como Meta-learning for Compositionality (MLC)- capaz de mejorar algunas herramientas basadas en la Inteligencia Artificial (IA) para hacer esas generalizaciones y comprobaron no sólo que está a la par del rendimiento humano, sino que en algunos casos es mejor.

Su técnica se basa en el entrenamiento de las redes neuronales artificiales (sofisticados sistemas computacionales interconectados entre sí para favorecer el aprendizaje y el procesamiento automático) y otras tecnologías relacionadas con el reconocimiento del habla y el procesamiento del lenguaje.

Los investigadores observaron que hasta ahora los creadores de sistemas de IA, incluidos los grandes modelos lingüísticos, esperaban que esa "generalización composicional" surgiera de métodos de entrenamiento estándar, pero mantienen que la técnica que desarrollaron muestra cómo la práctica explícita de estas habilidades permite a esos sistemas desbloquear nuevas facultades.

"Demostramos, por primera vez, que una red neuronal genérica puede imitar o superar la generalización sistemática humana en una comparación cara a cara", afirmó Lake.

Los investigadores crearon un novedoso sistema de aprendizaje en el que una red neuronal se actualiza de forma constante para mejorar sus habilidades. El mismo ejemplo: le enseñan la palabra "saltar" y luego crea combinaciones de palabras (saltar dos veces; saltar a la izquierda; a la derecha, etc). Luego en otro episodio aprende otras palabras y el sistema acaba mejorando las habilidades de la propia red.

Además compararon el rendimiento de su "máquina" con el de varias personas y comprobaron que en algunos casos el comportamiento de su sistema era mejor que el de los humanos, y que los dos (el MLC y las personas) superaron al ChatGPT, y que este, a pesar de sus "sorprendentes capacidades", mostró dificultades en esa tarea de aprendizaje.

Marco Baroni observó que los grandes modelos lingüísticos como el ChatGPT "siguen teniendo dificultades con la generalización composicional, aunque han mejorado en los últimos años", y se mostró convencido de que este nuevo sistema puede contribuir a mejorar las habilidades compositivas de los grandes modelos lingüísticos.

Agencias

Un equipo de investigadores advierte que las amenazas para la seguridad y la privacidad en los hogares "inteligentes", donde proliferan los dispositivos conectados a internet y las aplicaciones móviles capaces de recopilar datos de forma opaca y de trazar perfiles sobre los hábitos o el nivel socioeconómico de las personas, son "alarmantes".

A esa conclusión llegó el equipo dirigido por el Imdea (Instituto Madrileño de Estudios Avanzados) Networks y la Northeastern University de Boston.

Los científicos, que publican los resultados de su trabajo en la revista Reports and Proceedings, dieron a conocer las brechas de seguridad y de privacidad que plantea la creciente prevalencia de dispositivos "opacos" y técnicamente complejos que forman parte del "internet de las cosas (IoT, por sus siglas en inglés) en los hogares, cada vez más interconectados y en los que han aumentado los teléfonos, los televisores inteligentes o los asistentes virtuales.

Estos dispositivos incorporan sensores, cámaras, micrófonos y otras formas de detectar y monitorear lo que ocurre en el interior de los hogares, han advertido los investigadores, que analizaron en profundidad las interacciones de las redes locales entre 93 dispositivos conectados a internet y las aplicaciones móviles y revelaron una cantidad "excesiva" de amenazas para la seguridad y para la privacidad.

Las conclusiones de su trabajo señalan los riesgos asociados a la exposición involuntaria de datos sensibles en esos dispositivos que conforman el "internet de las cosas" dentro de las redes locales debido al uso inadecuado de los protocolos de comunicación que usan esos dispositivos, y que incluyen la exposición de nombres y hasta el "identificador único universal" o datos de geolocalización del hogar, que pueden ser recopilados por la industria digital de los datos y el marketing sin que los usuarios sean conscientes de ello.

El "canal lateral"

Según los investigadores, cualquier identificador o metadato (la dirección única de hardware; el identificar único universal; o el nombre único del dispositivo) es suficiente para identificar un hogar, pero la combinación de varios de ellos hace que cualquier casa sea única y fácilmente identificable de manera global.

Los protocolos de la red local se pueden emplear como "canales laterales" para acceder a datos que supuestamente deberían estar protegidos por varios permisos en los sistemas operativos Android, como la ubicación de los hogares.

El profesor asociado de Imdea Networks Narseo Vallina-Rodríguez, coautor del estudio, asegura que un "canal lateral" es una manera "furtiva" de acceder a datos sensibles, y explica como ejemplo que los desarrolladores de aplicaciones Android deben solicitar permisos del sistema para obtener el consentimiento de los usuarios para acceder a datos como la geolocalización.

Sin embargo, los investigadores demostraron que algunas aplicaciones "espía" y empresas de publicidad abusan de esos protocolos de las redes locales para acceder de una forma silenciosa a la información sensible sin que el usuario sea consciente de ello.

Cómo se utiliza

Juan Tapiador, subdirector del Departamento de Informática de la Universidad Carlos III de Madrid, indica que el estudio demuestra que los protocolos de red local utilizados por los dispositivos conectados a internet "no están lo suficientemente protegidos y exponen información sensible sobre el hogar y el uso que hacemos de los dispositivos" y advierte que esa información "está siendo recogida de forma opaca y facilita que se elaboren perfiles de nuestros hábitos o nivel socioeconómico".

El impacto de este trabajo va más allá del mundo académico, según los investigadores, que subrayan la necesidad de que fabricantes, desarrolladores de software, operadores de dispositivos "conectados" y de móviles y los reguladores tomen medidas para mejorar las garantías de privacidad y de seguridad en los hogares, y ya han comunicado estos problemas a proveedores de esos dispositivos y a los equipos de seguridad de algunos de los gigantes tecnológicos.