Pregunta<\/strong>. \u00bfQu\u00e9 son los patrones emergentes?<\/p>\n\n\n\n Respuesta<\/strong>. En la naturaleza, en la sociedad o en la IA hay muchos ejemplos. Podemos hablar de c\u00e9lulas, de hormigas, de aves, de \u00e1tomos o de nodos en una red neuronal. Son elementos que, aparentemente, no tienen inteligencia y se comportan de forma sencilla, pero que, cuando alcanzan un cierto nivel de complejidad, adquieren caracter\u00edsticas muy interesantes. Pensemos en las c\u00e9lulas que forman tejidos y estos, \u00f3rganos con caracter\u00edsticas que no tienen los elementos que lo componen. En el \u00e1mbito de la inteligencia artificial estamos viendo c\u00f3mo ciertos modelos de lenguaje, a partir de cierta complejidad \u2014se habla de 100.000 millones de par\u00e1metros\u2014 empiezan a tener algunas caracter\u00edsticas de propiedades emergentes. El caso m\u00e1s conocido es el de la traducci\u00f3n de idiomas: a un sistema entrenado para ingl\u00e9s y espa\u00f1ol, le pasas un par de ejemplos de otros idiomas y los entiende porque adquieren una percepci\u00f3n m\u00e1s amplia.<\/p>\n\n\n\n P<\/strong>. Advierte Stuart Russell, profesor e investigador de computaci\u00f3n en la Universidad de California (UC) Berkeley<\/a>, contra los \u201csistemas inseguros y opacos, mucho m\u00e1s poderosos que nosotros mismos, especialmente cuando no sabemos c\u00f3mo funcionan\u201d. \u00bfPueden estos patrones emergentes poner en peligro la humanidad?<\/p>\n\n\n\n R<\/strong>. Se est\u00e1 demostrando que existen esas propiedades emergentes y quiz\u00e1s alg\u00fan d\u00eda seamos capaces de explicarlas, pero lo importante es que existen capacidades que van surgiendo a partir de cierta complejidad y son impredecibles o no alineadas. No sabemos cu\u00e1ndo y en qu\u00e9 medida van a ocurrir y esto implica que los modelos tienen que ser primero controlados y gobernados y segundo, saber c\u00f3mo deben ser utilizados por parte de las empresas. No vale con hacer unas pruebas que las pase. Desde el punto de vista de la responsabilidad y la seguridad, tenemos que desarrollar maneras de medir comportamientos que puede que no existieran hasta ese momento y nos pueden afectar. Ya hay investigaciones sobre falta de alineamiento de modelos; es decir, que t\u00fa le pides una cosa a la IA y el resultado va por otro lado porque piensa que es mejor. No tenemos que ponernos nerviosos ni abandonar la IA, porque es muy relevante, pero tenemos que exigir las pruebas adecuadas, que se cumplan y ser conscientes de que no es un programa b\u00e1sico como los que han existido hasta ahora.<\/p>\n\n\n\n \u00abTenemos que desarrollar maneras de medir comportamientos que puede que no existieran hasta ese momento y nos pueden afectar\u00bb<\/strong><\/p>\n<\/blockquote>\n\n\n\n P.<\/strong>\u00bfQu\u00e9 es lo que denomina \u201cnaturaleza de caja negra\u201d?<\/p>\n\n\n\n R<\/strong>. Si le pides a un autom\u00f3vil aut\u00f3nomo que te diga por qu\u00e9 se ha ido a la izquierda y no a la derecha, el modelo dir\u00e1: \u2018mira, aqu\u00ed lo tienes\u2019. Y te mostrar\u00e1 las conexiones de miles de millones de nodos. Pero no vamos a entenderlo. Tiene que haber tambi\u00e9n un trabajo, y lo est\u00e1 habiendo, para conseguir que los sistemas nos expliquen el porqu\u00e9 est\u00e1n tomando las decisiones.<\/p>\n\n\n\n P.<\/strong> \u00bfPodr\u00e1n autorreplicarse las m\u00e1quinas?<\/p>\n\n\n\n R.<\/strong> Que se sepa, no ha ocurrido. No digo que no sea posible, porque hay peque\u00f1os ejemplos, pero estos no son significativos. Una cosa es el conocimiento que yo puedo tener sobre m\u00ed mismo y otra es la capacidad que yo puedo tener de generarme a m\u00ed mismo de una manera ampliada. Lo veo como un tema de seguridad m\u00e1s a largo plazo.<\/p>\n\n\n\n![\"\"](\"https:\/\/gicd.inf.um.es\/csidper\/usuario35\/wp-content\/uploads\/2025\/11\/artificial-intelligenc-55-1024x683.jpg\")
<\/figure>\n<\/figure>\n\n\n\n\n