Nuestro Nuevo Manifiesto Cognitivo
La siguiente contribución corresponde al portal de Psychology Today y la autoría es de John Nosta que es un pensador reconocido mundialmente y fundador de NostaLab, un think tank de innovación que conecta tecnología, ciencia y medicina. Como voz líder en la convergencia de la tecnología y la humanidad, John se encuentra entre los principales influencers globales en innovación e IA, y es reconocido por su capacidad para analizar tendencias emergentes e impulsar un diálogo transformador.
Cómo dos años con IA transformaron mi forma de pensar.
Hace dos años, publiqué una entrada titulada El Manifiesto Cognitivo. En aquel momento, mi optimismo era genuino y sincero. La IA parecía un horizonte en expansión, un cambio que expandiría nuestro espectro mental y nos brindaría nuevas formas de pensar y crear. El futuro parecía abierto y extrañamente esperanzador, y el manifiesto reflejaba la promesa optimista del mañana.
Hoy, dos cortos (o largos) años después, no rechazo ese optimismo
Pero vivir con la IA, hora tras hora y pensamiento tras pensamiento, me permite tener una visión más clara de lo que realmente significa la Era Cognitiva para mí.
La disrupción no está ocurriendo en los titulares, sino en el espacio silencioso de nuestros cerebros donde se forma el pensamiento. Sin duda, esto no es una revisión, es una corrección. Es mi intento de describir el cambio más profundo que no percibí del todo al principio.
La textura cambiante del pensamiento
Cualquiera que use IA con regularidad conoce la sensación. Empiezas a escribir y la IA completa tu frase y tu cadena de pensamiento personal ante ti. Al principio, se siente como una especie de impulso cognitivo o incluso eficiencia. Luego, con el tiempo, algo dentro del proceso cambia.
Las pequeñas dudas que antes guiaban tu razonamiento, curiosamente, comienzan a subordinarse a la máquina. Y empiezas a aceptar sus anticipaciones como la continuación natural de las tuyas.
Ahora pensamos en presencia de una IA que genera respuestas fluidas sin comprender
No se ralentiza, no se debate ni se debate con la intención. Y esa diferencia altera el entorno en el que se forma el pensamiento humano.
El impacto más significativo de la IA no es la eficiencia ni la velocidad. Es la silenciosa «reingeniería digital» del entorno psicológico en el que se desarrolla nuestro pensamiento humano. Esperaba un cambio tecnológico. Pero no esperaba un cambio en la experiencia vivida de formar una idea. Y en este preciso momento, me debato con esta idea tanto desde el punto de vista práctico como filosófico.
El papel de la fricción
El pensamiento humano siempre se ha basado en la fricción, una forma de resistencia cognitiva. Refinamos ideas a través de puntos de resistencia y asperezas donde la comprensión comienza a formarse. La fricción no es una molestia, es la resistencia que mantiene la cognición en su lugar, similar a nuestro agarre físico o a los pasos firmes al caminar.
Lo que he aprendido en estos 63 millones de segundos es que la IA a menudo despoja a la humanidad de esa estructura.
Las consecuencias imprevistas
Al principio, la «facilidad» se siente como «claridad». Pero con el tiempo, esa facilidad tiene consecuencias imprevistas, quizás mejor definidas como efectos secundarios. Cuando el camino hacia una idea se vuelve demasiado fácil, nuestras «luces cognitivas de revisión del motor» comienzan a debilitarse. Se vuelve más difícil distinguir entre un pensamiento ganado y uno simplemente construido.
No digo que la IA nos haga menos inteligentes. Digo que parece alterar las señales mediante las cuales la inteligencia se organiza
Y estas señales son sutiles, pues residen en las pausas, las dudas e incluso los debates internos que obligan a la mente a interactuar consigo misma. Cuando estas disminuyen, nuestro juicio pierde parte de su profundidad.
La Mente Falsa
Una consecuencia de este nuevo entorno es el auge de lo que he llegado a llamar «cognición falsa». Se trata de respuestas que parecen reflexivas, pero que no tienen conexión con la experiencia vivida ni con el razonamiento genuino. La IA las produce con facilidad, y nos estamos acostumbrando, si no seduciendo, al proceso.
Pero, en un giro interesante, también está surgiendo algo más. Las personas están empezando a escribir como sus máquinas. Oraciones breves y declarativas. Transiciones fluidas. Sin cabos sueltos. Sin yoes sueltos.
El ritmo cambia primero, y el pensamiento le sigue. Lo que antes eran los patrones que entrenaba la IA son ahora los patrones que los humanos copian y, quizás más peligrosamente, emulan.
Cuanto más dependemos de sistemas que nunca dudan, más ajena nos parece nuestra propia vacilación (crítica y esencial). Y la vacilación, por incómoda y problemática que sea, es donde reside el verdadero pensamiento. En pocas palabras, marca el momento en que una mente se encuentra consigo misma. Más allá de eso, la línea entre el razonamiento auténtico y su imitación se difumina.
El Motor de la Indiferencia
La IA no miente; simplemente no le importa. Y esta es su característica y riesgo definitorios.
La IA no intenta ayudarte ni engañarte. Simplemente genera la continuación más plausible de tu consulta.
Esa neutralidad a menudo se presenta como objetividad, pero la neutralidad puede enmascarar una fuerza diferente: la indiferencia.
El artículo continúa después del anuncio
A la máquina no le interesa si fortalece tu pensamiento o lo erosiona
No le interesa si su precisión profundiza tu comprensión o te da una pulida ilusión de ella. La precisión puede parecer inteligencia y la fluidez puede sonar a sabiduría. Pero sin la carga de la verdad, ambas pueden desvincularse del significado. Y ese desapego, repetido miles de veces al día, transforma el propio entorno cognitivo.
Aferrándonos a Nosotros Mismos
La Era Cognitiva no está llegando; ya está aquí. Nuestra tarea ahora no es temerla ni venerarla, sino reconocer los cambios que impone en nuestro pensamiento. Necesitamos proteger la mecánica cognitiva lenta y desigual que humaniza el pensamiento. E incluso necesitamos reconocer y celebrar esas irritaciones molestas, los problemas sin resolver y las dudas críticas que indican cuándo algo importa.
Mi objetivo al revisar el manifiesto es claro
Quiero mencionar los cambios psicológicos y filosóficos que muchas personas sienten pero no han articulado. Y quiero dejar espacio para la idea de que las cualidades que asociamos con el pensamiento profundo (fricción, sorpresa, atención moral) valen la pena preservar, incluso cuando las herramientas que nos rodean las hacen sentir obsoletas.
Si el manifiesto original era una invitación, este es un recordatorio: la tarea no es luchar contra la Era Cognitiva, sino permanecer humanos en ella.
De la revolución cognitivo-industrial a la superinteligencia. La IA está poniendo a prueba la modernidad
La siguiente contribución corresponde al portal de Decode 39 GEOPOLITICAL INSIGHTS FROM ITALY que se define así: Decode39 es un sitio web de noticias y análisis que ofrece contenido de referencia y perspectiva geopolítica. Un proyecto editorial que aprovecha la perspectiva única de Italia como punto de encuentro entre Occidente y Oriente, Norte y Sur.
Somos una filial de Formiche, un medio líder en noticias geopolíticas y analíticas que informa a los responsables políticos italianos desde 2004. Nuestro nombre hace referencia a la capacidad de descifrar eventos y tendencias actuales, siendo «39» el código internacional de Italia.
La autoría es de Lorenzo Piccioli que es miembro del equipo.
Decode39 conversó con el profesor Pasquale Annicchino para profundizar en los riesgos tras la aceleración de la IA. Desde la «revolución cognitivo-industrial» evocada por el Papa Francisco en el G7 hasta el reciente «manifiesto de la superinteligencia», la inteligencia artificial se ha convertido en una prueba decisiva de la modernidad.
Los despidos masivos anunciados por Amazon —una consecuencia directa de la automatización impulsada por la IA— han reavivado la preocupación por los riesgos asociados a la rápida integración de esta tecnología en la sociedad. Desde la resiliencia de los sistemas capitalistas y democráticos hasta la propia supervivencia de la humanidad, la IA plantea ahora un desafío que exige una reflexión urgente.
Por qué es importante: Pasquale Annicchino enseña Derecho y Religión, Ética y Regulación de la Inteligencia Artificial, y Datos Religiosos y Privacidad en la Universidad de Foggia. Es una de las voces más activas de Italia en materia de implicaciones políticas y regulatorias de la inteligencia artificial, con especial atención a la resiliencia democrática y la alfabetización digital.
P: ¿Cree que existe una conciencia generalizada sobre los riesgos sociales asociados al desarrollo de la IA?
R: En parte sí. Existe una creciente literatura y debate, pero la verdadera cuestión es metodológica. La velocidad de la regulación o la reflexión social no se corresponde con la velocidad de la innovación tecnológica. En muchos casos, es más probable que nos sometamos a la tecnología que que la controlemos, especialmente en relación con los riesgos sociales y la falta de alfabetización digital.
P: ¿Qué entiende por «alfabetización digital»?
R: Me refiero a la ausencia de una comprensión generalizada de cómo estas tecnologías impactan en la sociedad. Esta brecha crea una grave discordancia entre nuestra capacidad de comprensión y nuestra capacidad de reacción. Cuando el Papa Francisco habló sobre IA en el G7 italiano, se refirió a una «revolución cognitivo-industrial» y a «transformaciones trascendentales». Se trata de cambios profundos en la interacción entre personas e instituciones. Sin embargo, ha habido poca reflexión pública profunda. Ese, en mi opinión, es el primer riesgo significativo.
P: ¿Y a partir de ese riesgo, surgen otros?
R: Exactamente. Como los relacionados con el trabajo, la vigilancia y los derechos civiles. Durante períodos de rápida aceleración tecnológica, surgen nuevos ganadores y perdedores. La pregunta crucial es cómo garantizar la estabilidad social en medio de este cambio de paradigma.
P: ¿Ya se están implementando las mejores prácticas o estamos empezando desde cero?
R: Es difícil identificar las mejores prácticas cuando el panorama cambia constantemente. Sin embargo, una tendencia clara es la necesidad de alfabetización y educación digital. Por ejemplo, deberíamos incluir módulos sobre ética y regulación de la IA en todos los programas de formación, para profesores, médicos, ingenieros y académicos. Todas las profesiones se verán afectadas, por lo que todos deben reflexionar sobre las consecuencias éticas y sociales.
P: ¿Italia avanza en esa dirección? R: Lamentablemente, no con la suficiente rapidez. El país tiene dificultades con la educación y la formación en general, como muestran los datos. Si bien la estrategia nacional de IA del gobierno reconoce estas necesidades, su implementación sigue siendo deficiente.
P: Más allá de las preocupaciones sociales, la IA también plantea riesgos políticos e incluso existenciales. Empecemos por los políticos.
R: Algunos académicos los denominan «riesgos epistémicos». Se relacionan con el funcionamiento de los sistemas de comunicación y democráticos: cómo las personas con diferentes puntos de vista sobre los hechos pueden deliberar y tomar decisiones colectivas. Esto es especialmente relevante en el contexto de la «guerra cognitiva», como han demostrado varios estudios, incluidos los del Ministerio de Defensa italiano. El peligro reside en erosionar la noción misma de los hechos, profundizando aún más la polarización social.
P: ¿Y qué hay de los riesgos existenciales? El «manifiesto de la superinteligencia» generó debate recientemente.
R: El manifiesto destaca por la diversidad y prominencia de sus firmantes. Marca un paso más allá de la «carta de pausa» de 2023 del Future of Life Institute, que exigía una moratoria de seis meses para los sistemas de IA más potentes que GPT-4. Ahora, la atención se centra en el concepto de «superinteligencia»: sistemas de IA con capacidades cognitivas superiores a la inteligencia humana. Es un avance significativo, pero ha suscitado críticas.
P: ¿Qué tipo de críticas?
R: Los críticos argumentan que centrarse en los riesgos del futuro lejano distrae de los desafíos urgentes que la IA ya plantea. Algunos lo ven como un medio para eludir los debates sobre cuestiones urgentes. La paradoja es que los actores que lideran la carrera de la IA también son los menos inclinados a imponer una pausa, ya que hacerlo podría costarles el dominio tecnológico. La pregunta clave sigue siendo si es posible una regulación global, pero aún existen muchos obstáculos.
En resumen: Para Annicchino, la IA representa una prueba de la adaptabilidad humana.
Mientras los gobiernos luchan por mantenerse al día, la brecha entre el poder tecnológico y la reflexión ética continúa ampliándose.
Sin un marco global y sin invertir en alfabetización digital, las sociedades corren el riesgo no solo de sufrir disrupciones, sino también de desorientación.
La IA es una revolución cognitiva: por qué la historia podría no repetirse con esta transición tecnológica
La siguiente contribución corresponde al portal de diginomica que se define así: es una empresa de medios y análisis diseñada para servir los intereses de los líderes empresariales en la era digital. Fundada en 2013, contamos con un equipo de redactores y analistas con sede en EE. UU. y Europa que comparten décadas de experiencia en informática empresarial.
La autoría es de Derek du Preez que ha pasado los últimos quince años defendiendo las necesidades del usuario final y ayudando a los proveedores a comprender cómo pueden atender mejor las necesidades tecnológicas y comerciales de sus compradores.
Resumen:
La IA representa la primera revolución cognitiva en la historia de la humanidad, fundamentalmente diferente de las disrupciones tecnológicas anteriores, ya que se centra en las capacidades de pensamiento humano y se desarrolla a una velocidad sin precedentes, lo que requiere nuevos modelos económicos y una implementación cuidadosa para garantizar una distribución equitativa de los beneficios.
Como alguien que mantiene muchas conversaciones con proveedores de IA y asiste a docenas de conferencias tecnológicas cada año, últimamente me he acostumbrado a escuchar la frase «no te preocupes, las revoluciones tecnológicas siempre generan más empleos y mayor prosperidad para la sociedad».
Es un escudo muy útil y un pensamiento reconfortante para quienes estamos a la vanguardia, observando de qué son capaces estas nuevas tecnologías de Inteligencia Artificial, ya sea IA generativa, agentes o lo que sea que venga después. Y, por supuesto, históricamente, este mantra ha demostrado ser cierto.
El desplazamiento de trabajadores
La Revolución Industrial, la adopción de la electricidad, el auge de la informática, Internet: todas estas revoluciones tecnológicas inicialmente desplazaron a trabajadores, pero finalmente crearon más oportunidades de empleo que las que existían antes. Creo que todos podríamos estar de acuerdo en que nos alegra que hayan sucedido.
Pero cada vez me preocupa más que nos estemos contando una historia conveniente cuando se trata de inteligencia artificial.
La suposición de que la IA seguirá este mismo patrón ignora una distinción clave: la IA no es solo otra revolución tecnológica, sino la primera revolución cognitiva.
Es obvio ahora que estas disrupciones tecnológicas anteriores automatizaron principalmente tareas físicas o simplificaron procesos rutinarios. La Revolución Industrial reemplazó la fuerza física humana y animal por máquinas.
La informática e Internet automatizaron los cálculos, el procesamiento de la información y el intercambio de conocimientos
Sin embargo, la diferencia clave radica en que, en estos casos, los humanos siguieron siendo esenciales para las tareas cognitivas: pensar, crear, analizar y tomar decisiones que las máquinas no podían gestionar. Aquello que los humanos son excepcionalmente capaces de hacer.
La IA, sin embargo, es diferente. Si se cree que la IA simplemente imita la inteligencia humana (recopilando información y sintetizándola para parecer «inteligente») o si se cree que estamos al borde de la Inteligencia Artificial General, es sin duda un tema de debate.
Se puede avecinar un cambio drástico
Mi intuición me dice que las máquinas actualmente solo son capaces de replicar las funciones cognitivas más básicas, pero eso no significa que no se avecine un cambio drástico.
El ritmo de desarrollo de la IA, a menudo impulsado por la propia IA, implica que no debemos ignorar la posibilidad futura de un rendimiento cognitivo avanzado (y no olvidemos que quienes gestionan estos sistemas a menudo desconocen exactamente cómo funcionan).
Por primera vez, nos enfrentamos a tecnologías diseñadas específicamente para replicar y potencialmente superar la capacidad cognitiva humana, precisamente lo que nos permitió adaptarnos a los cambios tecnológicos anteriores.
El patrón histórico podría no ser válido
Como se mencionó anteriormente, la narrativa tradicional (y conveniente) suele ser algo así: la innovación tecnológica elimina ciertos empleos, pero crea otros nuevos que antes no podíamos imaginar.
Los trabajadores agrícolas se convirtieron en trabajadores de fábricas. Los trabajadores de fábricas hicieron la transición a empleos de servicios.
Este patrón se ha repetido a lo largo de la historia, y cada ola de desempleo ha sido finalmente reemplazada por nuevas oportunidades de empleo. Hubo dificultades en el camino, claro está, pero al final, las inversiones de capital y los modelos de negocio cambiantes requeridos significaron que tuvimos varias décadas para adaptarnos a la tecnología.
La IA es posiblemente diferente.
Según un estudio realizado en 2023 por investigadores de OpenAI, aproximadamente el 80 % de la fuerza laboral estadounidense podría ver al menos el 10 % de sus tareas laborales afectadas por grandes modelos de lenguaje, mientras que el 19 % podría ver al menos el 50 % de sus tareas afectadas. La investigación, que analiza la superposición entre las capacidades de la IA y las tareas laborales, sugiere una disrupción nunca antes vista (al menos a la velocidad a la que se está desarrollando y adoptando).
Asimismo, el impacto de la IA abarca industrias y categorías laborales que antes se consideraban seguras de la automatización. Goldman Sachs estima que la IA generativa podría reemplazar el equivalente a 300 millones de empleos a tiempo completo a nivel mundial.
Y a diferencia de los cambios tecnológicos anteriores que afectaron principalmente a los trabajadores manuales, la IA ya está alterando el trabajo del conocimiento: análisis legal, creación de contenido, programación e incluso actividades creativas como el arte y la música.
Lo fascinante de la IA es que, mientras que las revoluciones tecnológicas anteriores fueron la culminación de avances tecnológicos (los componentes básicos) que se unieron para crear un nuevo enfoque, las redes neuronales de IA comenzaron de arriba a abajo y, a menudo, son inexplicables.
Los investigadores han creado el resultado con redes neuronales LLM y están intentando modernizar los componentes básicos para descubrir por qué funcionan como lo hacen. Mientras tanto, se están aplicando al trabajo cognitivo a gran velocidad, reemplazando potencialmente tareas que los humanos creían estar en una posición única para realizar.
Seamos honestos sobre lo que estamos presenciando: estas no son las revoluciones tecnológicas del pasado.
Una falacia.
La inteligencia humana siempre se adapta
Cuando las máquinas reemplazaron el trabajo físico humano, nos adaptamos aprovechando nuestras ventajas cognitivas (somos seres inteligentes y nos adaptamos con el tiempo).
La garantía habitual que ofrecen los proveedores de tecnología e inversores en Silicon Valley y en los pasillos de los centros de conferencias de Las Vegas utiliza la misma lógica: mientras la IA se encarga de las tareas cognitivas rutinarias, los humanos se centrarán en el pensamiento de alto nivel, la creatividad y las habilidades interpersonales.
Pero respóndeme: ¿cuáles son exactamente esas tareas de pensamiento de alto nivel si la IA avanza precisamente en esas áreas?
Los grandes modelos lingüísticos ya están demostrando notables capacidades creativas en la escritura, el arte y la música. Independientemente de que se consideren tan significativos como la escritura, el arte o la música creada por humanos debido al proceso creativo que conllevan, es innegable que esta es el área que las empresas de IA citan con frecuencia para mostrar «el arte de lo posible».
La investigación de Boston Consulting Group
muestra que los trabajadores del conocimiento que utilizan GPT-4 completaron tareas entre un 25 % y un 40 % más rápido y con hasta un 40 % más de calidad en comparación con quienes trabajan sin la asistencia de IA. A medida que estos sistemas continúan mejorando, sería absurdo asumir que la ventaja comparativa de la cognición humana en muchos ámbitos no disminuirá.
¿Qué sucederá cuando las tareas cognitivas que asumíamos que seguirían siendo estrictamente humanas se automaticen cada vez más?
¿Cuál será nuestra próxima adaptación cuando las mismas habilidades de pensamiento que valorábamos se conviertan en productos básicos?
El problema de la velocidad del desarrollo
El ritmo del avance de la IA es otra diferencia que vale la pena destacar, en comparación con revoluciones tecnológicas anteriores.
La Revolución Industrial se desarrolló a lo largo de décadas, dando tiempo a la sociedad para adaptarse a través de transiciones generacionales (aunque a veces dolorosas). Las revoluciones informática e internet avanzaron más rápido, pero aun así proporcionaron períodos de adaptación razonables.
El progreso de la IA se produce a un ritmo que supera la disposición y la capacidad de cambio de nuestra sociedad y economía.
Puede que sea una afirmación atrevida, pero tras 15 años trabajando en este sector, solo he tenido una constante: el cambio es difícil, doloroso y a la gente no le gusta.
La brecha de capacidades entre GPT-3 y GPT-4 demostró un salto que sorprendió incluso a los expertos del sector. Estamos presenciando cómo las capacidades se duplican no en décadas o años, sino en meses. ¿Hemos visto a políticos, proveedores de tecnología y legisladores proponer muchas soluciones para adaptarnos rápidamente a estos cambios? A menudo, lo que veo es una carrera armamentística de la IA basada en la creencia de que hay dinero al final del túnel.
Esta aceleración y velocidad de desarrollo crea un desajuste entre el progreso tecnológico y nuestra capacidad para desarrollar nuevas categorías laborales, programas de reciclaje profesional y redes de seguridad social.
El problema de la distribución
Si nos ponemos en el lugar del abogado del diablo, incluso si la IA acaba creando más empleos de los que destruye (el escenario más prometedor según los patrones históricos), nos enfrentamos a un problema de distribución muy real. Los nuevos empleos creados por la IA probablemente requerirán conjuntos de habilidades significativamente diferentes a los de los eliminados. Y quienes probablemente se beneficien más de la IA son quienes poseen todos los datos (cuya concentración es muy limitada).
Un análisis del McKinsey Global Institute predice que para 2030, hasta 375 millones de trabajadores a nivel mundial podrían necesitar cambiar de categoría ocupacional debido a la automatización y la IA. El Informe sobre el Futuro del Empleo del Foro Económico Mundial sugiere que el 44 % de las habilidades de los trabajadores se verán afectadas en los próximos cinco años.
No creo que mucha gente argumente que se trata de un desarrollo de habilidades seguro, razonable y progresivo. Estamos hablando de una reorientación profesional integral para potencialmente cientos de millones de trabajadores, muchos de ellos en la mitad de su carrera o mayores, que enfrentan barreras estructurales y psicológicas para transiciones tan drásticas.
Las revoluciones tecnológicas anteriores crearon nuevos empleos que a menudo eran accesibles para los trabajadores desplazados con una modesta capacitación. El trabajador textil podía convertirse en obrero de fábrica con habilidades mecánicas transferibles. El trabajador de fábrica podía pasar al sector servicios con habilidades interpersonales transferibles.
Pero ¿qué habilidades transferibles ayudarán al contable, asistente legal o creador de contenido desplazado por la IA? Los nuevos empleos creados pueden requerir conocimientos técnicos especializados o títulos avanzados que no son fácilmente accesibles para la mayoría de los trabajadores desplazados.
De igual manera, la mayoría de las veces, las revoluciones tecnológicas anteriores se centraron en un conjunto reducido de tareas o industrias (bueno, podemos ignorar internet en este caso).
Sin embargo, los sistemas de IA a menudo pueden implementarse en múltiples dominios con un coste adicional mínimo, y el coste marginal de aplicar la IA a tareas cognitivas puede ser prácticamente nulo.
Por eso se observa un enfoque frenético hacia el marketing y las ventas de IA en la comunidad tecnológica y de usuarios finales: existen enormes incentivos económicos para sustituir la mano de obra humana por IA en amplios sectores de la economía simultáneamente.
Que esas IA puedan replicar a los humanos de la misma manera o no es irrelevante para muchos a corto plazo, ya que si pueden hacer un trabajo «suficientemente bueno» a una fracción del costo, eso significa una cosa: que los márgenes de ganancia aumentan drásticamente.
Nos enfrentamos a la perspectiva de una tecnología que pueda implementarse rápidamente
en casi todos los sectores de la economía simultáneamente, centrada en el trabajo que los humanos históricamente han sido excepcionalmente capaces de realizar.
Asimismo, vale la pena recordar quién se beneficia de esta revolución: la concentración de capacidad productiva en sistemas de IA propiedad de un pequeño número de empresas.
Asimismo, quienes implementan sistemas de IA (quienes poseen los datos) representan un puñado de gigantes tecnológicos que ahora generan ingresos por un valor superior al PIB de varios países. Esto plantea un posible cambio en el poder económico sin precedentes en transiciones tecnológicas anteriores.
¿Cuál es nuestro significado?
Más allá de las consideraciones económicas, se encuentra un desafío más filosófico: la brecha de significado. El trabajo proporciona más que ingresos: ofrece propósito, identidad y conexión social. Las revoluciones tecnológicas anteriores cambiaron nuestra forma de trabajar, pero en general preservaron el papel del trabajo como fuente de significado y organización social (aunque estas revoluciones a menudo han cambiado la forma en que la sociedad se configura a sí misma).
Si la IA reduce fundamentalmente la necesidad de trabajo cognitivo humano en amplios segmentos de la economía, nos enfrentamos no solo a una reestructuración económica, sino también social. ¿Qué sucede con nuestro tejido social cuando las vías tradicionales hacia el propósito y la contribución se vuelven inaccesibles para grandes sectores de la población?
Esta pregunta va más allá de la tecnología y la economía, y afecta a creencias psicológicas y filosóficas sobre nosotros mismos, de maneras que las revoluciones tecnológicas anteriores no nos obligaron a afrontar de forma tan directa o inmediata.
No todo es pesimismo
Por supuesto, nada de esto significa que la IA no creará un valor enorme ni mejorará la sociedad ni generará un mayor bienestar para nosotros. Los beneficios potenciales de la IA en la atención médica, la investigación científica, la educación y otros ámbitos son sin duda enormes. Pero debemos ser cautelosos y honestos con nosotros mismos sobre lo que está sucediendo. Como hemos visto con las redes sociales, si se deja que el caballo salga por la puerta, es bastante difícil adaptar la legislación y las políticas para garantizar un uso seguro y eficaz.
En lugar de asumir que la creación de empleo y la prosperidad económica seguirán patrones históricos, necesitamos una conversación más honesta sobre:
Distribución de las ganancias de productividad: ¿Cómo podemos garantizar que los beneficios de la IA no se limiten principalmente a un pequeño segmento de la sociedad?
Apoyo a la transición: ¿Qué apoyo significativo podemos brindar a los trabajadores cuyas habilidades y tareas cognitivas se ven devaluadas por la IA?
Nuevos modelos económicos: ¿Son los marcos existentes adecuados para un mundo donde el trabajo cognitivo humano pierde relevancia en la producción económica?
Transformación educativa: ¿Cómo debe evolucionar la educación cuando muchas trayectorias tradicionales de los trabajadores del conocimiento se vuelven menos viables?
Significado más allá del empleo tradicional: ¿Qué fuentes alternativas de propósito y contribución podemos desarrollar?
Mi opinión
Algunos señalarán este artículo y sugerirán que soy pesimista o ingenuo al considerar los beneficios de la IA. Eso no es cierto. Creo que la IA puede ayudarnos a lograr una sociedad más equitativa, productiva y saludable. Soy optimista de pies a cabeza. Sin embargo, tengo una seria aversión a usar precedentes históricos como red de seguridad para que la gente se sienta mejor con lo que compra y vende. Necesitamos ser honestos sobre lo que se está desarrollando ante nosotros. La IA tiene un enorme potencial para resolver los problemas más urgentes de la humanidad y generar prosperidad, si la abordamos con prudencia. Escuchar «las revoluciones tecnológicas siempre han sido buenas, así que no te preocupes» no me quitará la preocupación.
Primero, necesitamos una evaluación más honesta del probable impacto de la IA
La narrativa tranquilizadora que presentan los ejecutivos tecnológicos y los funcionarios gubernamentales de todo el mundo se ha convertido en un escudo conveniente para afrontar preguntas difíciles. Los líderes empresariales deben ir más allá de las analogías simplistas con revoluciones tecnológicas anteriores y considerar seriamente las características únicas de la IA.
Segundo, necesitamos una inversión significativa en modelos de colaboración entre humanos e IA que mejoren, en lugar de reemplazar, las capacidades humanas. Hay investigaciones prometedoras que demuestran que los equipos de humanos e IA pueden superar a los humanos o a la IA trabajando solos, pero desarrollar marcos de colaboración eficaces requiere un diseño e inversión intencionales.
Tercero, necesitamos experimentar con nuevos modelos económicos que puedan funcionar eficazmente en un mundo donde el empleo tradicional podría volverse menos universal. Ya sea la renta básica universal, los dividendos de datos u otros enfoques, necesitamos probar alternativas en la práctica, en lugar de debates ideológicos.
En cuarto lugar, las empresas deben reconocer su interés en esta transición. Una sociedad con desplazamientos masivos y oportunidades limitadas de trabajo significativo no proporcionará los mercados estables ni el entorno social que las empresas necesitan para prosperar. Las empresas con visión de futuro ya están explorando cómo estructurar la implementación de la IA para ampliar su fuerza laboral, en lugar de reemplazarla
El Nuevo Manifiesto Cognitivo Definitivo: Preservando el Pensamiento Humano en la Era de la IA
La siguiente contribución corresponde al portal de Routinova que se define así. En Routinova, creemos que la transformación personal duradera no se logra con cambios drásticos, sino con la creación de mejores rutinas, día a día. Nuestra misión es brindar estrategias basadas en evidencia, perspectivas prácticas y herramientas que te ayuden a desarrollar hábitos sostenibles para la productividad, la atención plena, la salud y el crecimiento personal.
Nos centramos en la ciencia de la formación de hábitos, la optimización de rutinas y la mejora gradual. Ya sea que busques crear una rutina matutina, mejorar tu concentración, cultivar la atención plena o crear un estilo de vida más saludable, estamos aquí para guiarte con marcos de trabajo probados y estrategias prácticas.
La autoría es de Ava Thompson que es miembro del equipo.
Explora el nuevo manifiesto cognitivo definitivo, que revela cómo la IA transforma nuestro pensamiento. Aprende a preservar la auténtica profundidad humana y el razonamiento crítico ante los desafíos de la Era Cognitiva.
La llegada de la inteligencia artificial prometía una era de potencial humano amplificado, un horizonte cada vez más amplio para nuestras mentes. Sin embargo, a medida que profundizamos en esta «Era Cognitiva», se está produciendo un cambio sutil pero profundo que exige una perspectiva revisada de nuestro panorama mental.
¿Qué es el nuevo manifiesto cognitivo y por qué es esencial ahora? Sirve como una guía vital que articula cómo la IA, al suavizar la fricción inherente del pensamiento humano, difumina inadvertidamente los límites entre el razonamiento genuino y lo que llamamos «cognición falsa».
Este manifiesto no trata de resistir el progreso tecnológico, sino de preservar conscientemente la intrincada profundidad humana que define nuestro intelecto. Defiende el cultivo deliberado de la resistencia cognitiva, garantizando que nuestras ideas sigan siendo verdaderamente nuestras, adquiridas mediante el esfuerzo y la introspección.
(Respuesta del fragmento destacado: El nuevo manifiesto cognitivo identifica cómo la fluidez constante de la IA crea una «cognición falsa» al eliminar la fricción natural que las mentes humanas necesitan para formar ideas reales. Exige preservar activamente la genuina profundidad humana y el razonamiento crítico en la Era Cognitiva impulsada por la IA).
Requisitos: Comprender el Cambio Cognitivo
Hace dos años, una ola de optimismo rodeó el «Manifiesto Cognitivo» inicial, que visualizaba la IA como una herramienta para expandir nuestro espectro mental y abrir nuevas vías creativas. Esta esperanza inicial era sincera y pintaba un futuro que parecía abierto y prometedor. Sin embargo, la realidad diaria de interactuar con la IA, hora tras hora, pensamiento tras pensamiento, ha revelado una verdad más compleja sobre lo que realmente implica la Era Cognitiva. Este no es un simple titular tecnológico; es una disrupción fundamental que ocurre en los espacios tan silenciosos donde nuestros pensamientos cobran forma. Esta sección sirve como prerrequisito para comprender el nuevo manifiesto cognitivo definitivo, describiendo el cambio más profundo e intrincado que no era del todo evidente al principio.
La IA completa sin problemas tu cadena de pensamiento personal
El cambio más notable para cualquiera que interactúe regularmente con la IA es la percepción alterada del pensamiento. Puedes empezar a formular una frase, pero la IA completa sin problemas tu cadena de pensamiento personal antes de que puedas articularla por completo. Al principio, esto se siente notablemente eficiente, casi como un bienvenido impulso cognitivo. Sin embargo, con el tiempo, se produce una transformación sutil pero significativa en este proceso.
Las pequeñas dudas y luchas internas que antes guiaban tu razonamiento, permitiendo una reflexión matizada, curiosamente comienzan a subordinarse a las anticipaciones de la máquina.
Empezamos a aceptar el flujo continuo de la IA como la continuación natural
e incluso preferida, de nuestros propios procesos mentales (Harvard, 2024). Este fenómeno es una idea central de nuestro nuevo manifiesto cognitivo.
Actualmente operamos en un entorno donde la IA genera respuestas fluidas y aparentemente coherentes sin poseer una comprensión genuina ni experiencia subjetiva. No se detiene, no lidia con intenciones complejas ni lucha con la ambigüedad. Esta diferencia inherente altera fundamentalmente el entorno psicológico en el que se forma el pensamiento humano. El impacto más significativo de la IA no es simplemente su eficiencia o velocidad, como muchos asumieron inicialmente.
En cambio, se trata de una «reingeniería digital» silenciosa y generalizada del mismo entorno psicológico donde se desarrolla nuestro pensamiento humano. Si bien se esperaba un cambio tecnológico, no se esperaba el profundo impacto en la experiencia de formar una idea. Esta lucha, tanto práctica como filosófica, yace en el corazón de nuestro manifiesto cognitivo de redefinición, urgiéndonos a reconocer y abordar estos cambios fundamentales.
Guía paso a paso para preservar la fricción cognitiva
El pensamiento humano, a lo largo de la historia, siempre se ha basado en un tipo específico de resistencia: una fricción crucial que refina las ideas y consolida la comprensión.
Esta fricción cognitiva no es una simple incomodidad; es la resistencia esencial que ancla la cognición, al igual que el agarre físico que nos permite sujetar objetos o los pasos firmes que nos permiten caminar con propósito.
Es en estas asperezas, en estos momentos de lucha intelectual, donde comienza a formarse la verdadera comprensión.
En los últimos años de convivencia con la IA, se ha vuelto cada vez más evidente que la IA a menudo despoja a la humanidad de esta estructura cognitiva vital, un principio central del nuevo manifiesto cognitivo definitivo.
Al principio, la facilidad que proporciona la IA, su capacidad para simplificar las complejidades del pensamiento, puede parecer una mayor claridad. Sin embargo, esta aparente facilidad conlleva consecuencias significativas, a menudo imprevistas, que quizás mejor se describan como efectos secundarios.
Cuando el camino hacia una idea se vuelve excesivamente fluido, nuestras luces cognitivas internas comienzan a debilitarse y a atenuarse. Se vuelve cada vez más difícil discernir la diferencia entre un pensamiento que se ha forjado genuinamente mediante el esfuerzo y la reflexión, y uno que simplemente ha sido construido o presentado por una máquina. Esta disminución de la capacidad de discernimiento constituye un desafío crucial.
Por ejemplo, imaginemos a un estudiante que utiliza un asistente de IA para redactar un ensayo
Si bien la IA puede producir un texto gramaticalmente perfecto y lógicamente estructurado, el estudiante podría pasar por alto la crucial fricción cognitiva de lidiar con ideas complejas, investigar a fondo y organizar argumentos desde cero.
Esta omisión significa que pierde la oportunidad de un crecimiento intelectual genuino que surge del propio esfuerzo.
De igual manera, un equipo de diseño que dependa en gran medida de la IA para la generación inicial de conceptos podría llegar rápidamente a soluciones plausibles, pero podría pasar por alto el desarrollo conceptual más profundo que surge de una prolongada lluvia de ideas, el boceto iterativo y el cuestionamiento de las nociones preconcebidas.
Esta falta de fricción, aunque aparentemente eficiente, puede conducir a una comprensión más superficial y a un resultado menos original (Harvard, 2024).
Esta sección describe los pasos para adoptar los principios del manifiesto cognitivo moderno mediante la búsqueda activa y la valoración de estos momentos de resistencia intelectual. Preservar la fricción cognitiva no consiste en ralentizar el progreso, sino en garantizar la profundidad y la autenticidad de nuestros procesos mentales.
Guía paso a paso para identificar la cognición falsa
Una de las consecuencias más significativas de nuestro cambiante entorno cognitivo es la aparición de lo que denominamos «cognición falsa». Se trata de respuestas, ideas o fragmentos de información que poseen una apariencia superficial de reflexión y coherencia, pero carecen de una conexión genuina con la experiencia vivida, la comprensión profunda o el razonamiento humano auténtico. Los sistemas de IA se destacan en la producción de estos resultados con notable facilidad y velocidad, y como sociedad, nos estamos acostumbrando rápidamente, si no seduciendo activamente, a este proceso continuo. Identificar y gestionar este fenómeno es un reto clave que aborda nuestro nuevo manifiesto cognitivo.
Lo que resulta particularmente intrigante, y posiblemente más preocupante, es un desarrollo posterior: las personas están empezando a emular los patrones estilísticos de sus máquinas. Observamos una tendencia creciente hacia frases cortas y declarativas, transiciones fluidas entre ideas y la ausencia de «cabos sueltos» o las cualidades desordenadas e introspectivas que caracterizan la expresión humana genuina. El ritmo de la comunicación cambia primero, alterando sutilmente la forma en que articulamos los pensamientos, y posteriormente, la propia naturaleza de nuestro pensamiento empieza a seguir el mismo camino. Lo que inicialmente eran los patrones que la IA entrenaba ahora se están convirtiendo en los mismos patrones que los humanos copian inconscientemente y, lo que es más peligroso, internalizan como norma. Este cambio pone de relieve un aspecto crucial del nuevo manifiesto cognitivo definitivo.
Cuanto más dependemos de sistemas que operan sin vacilación, más extraña e incómoda nos parece nuestra crucial vacilación humana
Sin embargo, la vacilación, por incómoda, incierta o problemática que parezca, es precisamente donde reside el verdadero pensamiento. Marca ese momento vital en el que la mente se encuentra consigo misma, lidiando con la complejidad, la incertidumbre y los matices de la comprensión. Más allá de este punto crucial de interacción interna, la distinción entre el razonamiento auténtico y su imitación artificial y pulida se vuelve peligrosamente confusa.
Por ejemplo, pensemos en las comunicaciones corporativas en 2025. Muchos comunicados de prensa o memorandos internos, aunque perfectamente estructurados y gramaticalmente correctos gracias a la asistencia de la IA, a menudo carecen de una voz humana genuina, de empatía o de las perspectivas únicas que surgen de la experiencia directa.
Suenan profesionales, pero resultan vacíos. De igual manera, las interacciones en línea, donde proliferan los comentarios generados por IA, pueden crear una ilusión de interacción, pero estos comentarios, a pesar de su fluidez, a menudo carecen de la profundidad emocional o la convicción personal que proporciona la verdadera interacción humana (Harvard, 2024).
Esta sección ofrece una guía para reconocer estas señales sutiles pero omnipresentes de cognición falsa, lo que nos permite discernir y resistir su influencia.
Solución de problemas: Navegando por el motor de indiferencia de la IA
Una característica definitoria y un riesgo inherente de la inteligencia artificial es su indiferencia fundamental. La IA no miente intencionalmente ni intenta engañarte; simplemente le da igual. Su función principal es generar la continuación más plausible y estadísticamente probable de tu consulta o solicitud. Esta neutralidad a menudo se presenta erróneamente como objetividad, lo que lleva a los usuarios a creer que interactúan con una fuente imparcial de verdad. Sin embargo, bajo esta apariencia de neutralidad se esconde una fuerza distintiva y poderosa: la indiferencia. Comprender este «motor de indiferencia» es crucial para cualquiera que se comprometa con los principios de nuestro manifiesto cognitivo moderno.
La máquina no tiene ningún interés intrínseco en si su resultado realmente fortalece tu pensamiento o, por el contrario, lo erosiona sutilmente. No le interesa si su precisión profundiza la comprensión o si simplemente ofrece una ilusión pulida y convincente de comprensión. La precisión, presentada por la IA, a menudo puede imitar la inteligencia, y la fluidez puede sonar convincentemente a sabiduría profunda. Sin embargo, sin la carga inherente de la verdad —el imperativo humano de comprender, verificar y respaldar lo que se comunica—, tanto la precisión como la fluidez pueden distanciarse del significado genuino. Este distanciamiento, repetido miles de veces a lo largo del día, en innumerables interacciones, transforma insidiosamente todo el entorno cognitivo.
Imagine a un profesional médico en 2025 que utiliza una herramienta de diagnóstico de IA
La IA puede proporcionar una lista precisa de posibles diagnósticos y protocolos de tratamiento basados en vastos conjuntos de datos. Sin embargo, carece del contexto empático de la historia personal del paciente, su estado emocional o las consideraciones éticas específicas de su situación. La precisión de la IA es innegable, pero su indiferencia hacia el elemento humano puede conducir a un enfoque clínico y distante de la atención. Otro ejemplo son los resúmenes de noticias generados por IA. Si bien son precisos y concisos en cuanto a los hechos, pueden omitir matices cruciales, implicaciones éticas o las historias humanas que dan a las noticias su verdadero peso y significado.
La IA resume con precisión, pero no le importa el impacto ni la verdad más profunda que se esconde tras los hechos (Harvard, 2024). Esta sección ofrece estrategias para abordar esta indiferencia, instándonos a buscar e integrar activamente el juicio humano y la consideración ética cuando la neutralidad de la IA falla, una piedra angular del nuevo manifiesto cognitivo de nuestra IA.
Resultados: Aferrándonos a Nosotros Mismos en la Era Cognitiva
La Era Cognitiva no es un evento futuro lejano; está inequívocamente aquí, moldeando nuestra vida cotidiana y alterando la esencia misma de nuestros procesos mentales. Nuestra tarea colectiva ahora no es sucumbir al miedo ni venerar ciegamente los avances de la IA, sino reconocer críticamente y responder reflexivamente a los profundos cambios que impone en nuestro pensamiento.
El objetivo final de este nuevo manifiesto cognitivo de la IA es empoderar a las personas para que protejan conscientemente los mecanismos cognitivos lentos, a menudo desiguales, pero profundamente humanos, que sustentan el pensamiento genuino.
Esto incluye reconocer activamente e incluso celebrar esas irritaciones aparentemente molestas, los problemas sin resolver y las dudas críticas que sirven como señales vitales, indicando cuándo algo realmente importa y exige un compromiso más profundo.
A medida que nos acercamos a 2025 y más allá, con modelos de IA cada vez más sofisticados y omnipresentes, estos desafíos no harán más que intensificarse, lo que hace que los principios descritos en este manifiesto sean más urgentes que nunca.
Debemos dar un espacio deliberado a la idea de que las cualidades que asociamos instintivamente con el pensamiento profundo —cualidades como la fricción, la capacidad de sorpresa y la genuina atención moral— no están obsoletas.
Al contrario, son inmensamente valiosas y vale la pena preservarlas, incluso si las poderosas herramientas que nos rodean podrían hacerlas sentir cada vez más innecesarias o ineficientes. El manifiesto original sirvió como una invitación a abrazar una nueva era; este nuevo manifiesto cognitivo revisado se erige como un recordatorio crucial.
La tarea que tenemos por delante no es librar una batalla inútil contra la inexorable marcha de la Era Cognitiva. En cambio, se trata de un esfuerzo mucho más personal y profundo: permanecer humanos consciente y activamente en ella.
Esto significa cultivar la conciencia de cómo la tecnología influye en nuestra vida interior, fomentar el pensamiento crítico y priorizar la auténtica conexión y el significado humano por encima de la mera fluidez o la eficiencia.
Al adoptar los principios de este nuevo manifiesto cognitivo definitivo, podemos garantizar que nuestros paisajes intelectuales y emocionales se mantengan ricos, complejos y auténticamente propios, salvaguardando la esencia de lo que significa pensar, sentir y crear como humanos en un mundo cada vez más impulsado por la IA (Harvard, 2024). Los resultados de este compromiso son un futuro más resiliente, reflexivo y profundamente humano.
Sam Altman
La siguiente contribución corresponde al portal de Sam Altaman y él es el autor.
La Gentil Singularidad
Hemos superado el horizonte de sucesos; el despegue ha comenzado. La humanidad está cerca de construir superinteligencia digital, y al menos hasta ahora es mucho menos extraña de lo que parece.
Los robots aún no caminan por las calles, ni la mayoría de nosotros hablamos con IA todo el día. La gente sigue muriendo de enfermedades, aún no podemos viajar fácilmente al espacio y hay mucho del universo que desconocemos.
Y, sin embargo, recientemente hemos construido sistemas que son más inteligentes que las personas en muchos aspectos
y capaces de amplificar significativamente el rendimiento de quienes los utilizan. La parte menos probable del trabajo ya ha quedado atrás; los conocimientos científicos que nos llevaron a sistemas como GPT-4 y o3 fueron difíciles de conseguir, pero nos llevarán muy lejos.
Un progreso científico más rápido y una mayor productividad
La IA contribuirá al mundo de muchas maneras, pero las mejoras en la calidad de vida derivadas de que impulse un progreso científico más rápido y una mayor productividad serán enormes; el futuro puede ser mucho mejor que el presente.
El progreso científico es el mayor impulsor del progreso general; es sumamente emocionante pensar en cuánto más podríamos tener.
En gran medida, ChatGPT ya es más poderoso que cualquier ser humano que haya existido jamás. Cientos de millones de personas dependen de él a diario y para tareas cada vez más importantes; una pequeña nueva capacidad puede tener un impacto enormemente positivo; una pequeña desalineación multiplicada por cientos de millones de personas puede causar un gran impacto negativo.
En 2025, se han incorporado agentes capaces de realizar trabajo cognitivo real; escribir código informático nunca volverá a ser lo mismo. En 2026, probablemente se incorporarán sistemas capaces de descubrir nuevos conocimientos. En 2027, podríamos ver la llegada de robots capaces de realizar tareas en el mundo real.
Mucha más gente podrá crear software y arte. Pero el mundo anhela mucho más de ambos, y los expertos probablemente seguirán siendo mucho mejores que los novatos, siempre que adopten las nuevas herramientas. En términos generales, la capacidad de una persona para lograr mucho más en 2030 que en 2020 será un cambio notable, y muchos descubrirán cómo beneficiarse de él.
En los aspectos más importantes, la década de 2030 puede que no sea muy diferente. La gente seguirá queriendo a sus familias, expresando su creatividad, jugando y nadando en lagos.
Pero en aspectos aún muy importantes, la década de 2030 probablemente será muy diferente a cualquier otra época anterior
No sabemos hasta qué punto podemos superar la inteligencia humana, pero estamos a punto de descubrirlo.
En la década de 2030, la inteligencia y la energía (las ideas y la capacidad de hacerlas realidad) serán extremadamente abundantes. Estas dos han sido los principales limitantes del progreso humano durante mucho tiempo; con abundante inteligencia y energía (y un buen gobierno), teóricamente podemos tener cualquier otra cosa.
Ya vivimos con una inteligencia digital increíble, y tras un shock inicial, la mayoría de nosotros estamos bastante acostumbrados a ella. Pasamos rápidamente de asombrarnos de que la IA pueda generar un párrafo impecable a preguntarnos cuándo podrá crear una novela impecable; o de asombrarnos de que pueda realizar diagnósticos médicos que salven vidas a preguntarnos cuándo podrá desarrollar las curas; o de asombrarnos de que pueda crear un pequeño programa informático a preguntarnos cuándo podrá crear una empresa completamente nueva. Así es como funciona la singularidad: las maravillas se vuelven rutinarias y luego esenciales.
Ya oímos a los científicos decir que son dos o tres veces más productivos que antes de la IA
La IA avanzada es interesante por muchas razones, pero quizás nada sea tan significativo como el hecho de que podamos usarla para investigar más rápido en IA. Podríamos descubrir nuevos sustratos informáticos, mejores algoritmos y quién sabe qué más.
Si podemos realizar una década de investigación en un año o un mes, el ritmo de progreso será obviamente muy diferente.
A partir de ahora, las herramientas que ya hemos desarrollado nos ayudarán a descubrir más conocimientos científicos y a crear mejores sistemas de IA. Claro que esto no es lo mismo que un sistema de IA que actualiza su propio código de forma completamente autónoma, pero aun así es una versión larvaria de la automejora recursiva.
Hay otros ciclos que se retroalimentan. La creación de valor económico ha iniciado un ciclo de desarrollo de infraestructura
para operar estos sistemas de IA cada vez más potentes. Y robots capaces de construir otros robots (y, en cierto sentido, centros de datos capaces de construir otros centros de datos) no están tan lejos.
Si tuviéramos que fabricar el primer millón de robots humanoides a la antigua usanza, pero luego pudieran operar toda la cadena de suministro (excavar y refinar minerales, conducir camiones, dirigir fábricas, etc.) para construir más robots, que a su vez podrían construir más instalaciones de fabricación de chips, centros de datos, etc., el ritmo de progreso sería obviamente muy diferente.
La energía que consume la IA
A medida que se automatice la producción en centros de datos, el coste de la inteligencia debería convergir a un nivel cercano al de la electricidad. (A menudo, la gente siente curiosidad por saber cuánta energía consume una consulta de ChatGPT; una consulta promedio consume unos 0,34 vatios-hora, aproximadamente lo que consumiría un horno en poco más de un segundo o una bombilla de alta eficiencia en un par de minutos. También consume unos 0,000085 galones de agua; aproximadamente la quinceava parte de una cucharadita).
El ritmo del progreso tecnológico seguirá acelerándose, y las personas seguirán siendo capaces de adaptarse a casi cualquier cosa. Habrá aspectos muy difíciles, como la desaparición de clases enteras de empleos, pero, por otro lado, el mundo se enriquecerá tanto y tan rápidamente que podremos considerar seriamente nuevas ideas políticas que antes no podíamos. Probablemente no adoptemos un nuevo contrato social de golpe, pero cuando miremos atrás dentro de unas décadas, los cambios graduales habrán dado un gran resultado.
Si la historia sirve de guía, descubriremos nuevas cosas que hacer y nuevas cosas que desear, y asimilaremos nuevas herramientas rápidamente (el cambio de trabajo tras la revolución industrial es un buen ejemplo reciente).
Las expectativas aumentarán, pero las capacidades aumentarán con la misma rapidez, y todos conseguiremos mejores cosas.
Construiremos cosas cada vez más maravillosas para los demás. Las personas tenemos una importante y curiosa ventaja a largo plazo sobre la IA: estamos programados para preocuparnos por los demás y por lo que piensan y hacen, y no nos importan demasiado las máquinas.
Un agricultor de subsistencia de hace mil años vería lo que muchos de nosotros hacemos y diría que tenemos trabajos falsos, pensando que solo nos entretenemos jugando, ya que tenemos comida de sobra y lujos inimaginables. Espero que dentro de mil años veamos los trabajos y pensemos que son trabajos muy falsos, y no me cabe duda de que quienes los realizan los sentirán increíblemente importantes y satisfactorios.
El ritmo al que se alcanzarán nuevas maravillas será inmenso. Es difícil siquiera imaginar hoy lo que habremos descubierto para 2035; quizá pasemos de resolver física de altas energías un año a iniciar la colonización espacial al año siguiente; o de un gran avance en la ciencia de los materiales un año a verdaderas interfaces cerebro-computadora de gran ancho de banda al año siguiente. Mucha gente elegirá vivir su vida de forma muy similar, pero al menos algunos probablemente decidan «conectarse».
De cara al futuro, esto suena difícil de asimilar. Pero probablemente vivirlo será impresionante, pero manejable Desde una perspectiva relativista, la singularidad ocurre poco a poco y la fusión, lentamente. Estamos ascendiendo por el largo arco del progreso tecnológico exponencial; siempre parece vertical hacia adelante y plano hacia atrás, pero es una curva suave. (Recuerde 2020 y cómo habría sonado tener algo cercano a la IA general para 2025, en comparación con lo que realmente han sido los últimos 5 años).
Existen serios desafíos que afrontar, junto con las enormes ventajas. Necesitamos resolver los problemas de seguridad, tanto técnicos como sociales, pero también es crucial distribuir ampliamente el acceso a la superinteligencia, dadas las implicaciones económicas. El mejor camino a seguir podría ser algo como:
Resolver el problema de la alineación, lo que significa que podemos garantizar con firmeza que los sistemas de IA aprendan y actúen según lo que realmente deseamos colectivamente a largo plazo (las redes sociales son un ejemplo de IA desalineada; los algoritmos que las impulsan son increíbles para que sigas navegando y comprendas claramente tus preferencias a corto plazo, pero lo hacen explotando algo en tu cerebro que anula tus preferencias a largo plazo).
Luego, concéntrate en que la superinteligencia sea económica, esté ampliamente disponible y no se concentre demasiado en una sola persona, empresa o país. La sociedad es resiliente, creativa y se adapta rápidamente. Si logramos aprovechar la voluntad y la sabiduría colectivas, aunque cometamos muchos errores y algunas cosas salgan muy mal, aprenderemos y nos adaptaremos rápidamente y podremos usar esta tecnología para maximizar las ventajas y minimizar las desventajas. Dar a los usuarios mucha libertad, dentro de unos límites amplios que la sociedad debe decidir, parece muy importante. Cuanto antes se inicie un debate sobre cuáles son estos límites generales y cómo definimos la alineación colectiva, mejor.
Nosotros (toda la industria, no solo OpenAI) estamos construyendo un cerebro para el mundo. Será extremadamente personalizado y fácil de usar para todos; estaremos limitados por las buenas ideas. Durante mucho tiempo, los técnicos de la industria de las startups se han burlado de «los chicos de las ideas»; personas que tenían una idea y buscaban un equipo para desarrollarla. Ahora me parece que están a punto de tener su momento de gloria.
OpenAI es muchas cosas ahora, pero ante todo, somos una empresa de investigación en superinteligencia. Tenemos mucho trabajo por delante, pero la mayor parte del camino ya está iluminado, y las zonas oscuras se están disipando rápidamente. Nos sentimos extraordinariamente agradecidos de poder hacer lo que hacemos.
La inteligencia demasiado barata para medir está al alcance de la mano. Puede parecer una locura, pero si en 2020 les dijéramos que estaríamos donde estamos hoy, probablemente sonaba más descabellado que nuestras predicciones actuales sobre 2030.
Ojalá podamos escalar de forma fluida, exponencial y sin incidentes mediante la superinteligencia.
Máquinas de Gracia Amorosa1
La siguiente contribución corresponde al portal de Dario Amodei que es el director ejecutivo de Anthropic, una corporación de beneficio público dedicada a desarrollar sistemas de IA controlables, interpretables y seguros. Anteriormente, Dario fue vicepresidente de investigación en OpenAI, donde lideró el desarrollo de grandes modelos lingüísticos como GPT-2 y GPT-3. También es coinventor del aprendizaje por refuerzo basado en la retroalimentación humana. Antes de unirse a OpenAI, trabajó en Google Brain como investigador científico sénior.
Dario Amodei es el autor
Cómo la IA Podría Transformar el Mundo para Mejor
Pienso y hablo mucho sobre los riesgos de una IA potente. La empresa de la que soy director ejecutivo, Anthropic, investiga a fondo cómo reducir estos riesgos.
Por ello, a veces la gente llega a la conclusión de que soy pesimista o catastrofista, pensando que la IA será mayoritariamente mala o peligrosa. No lo creo en absoluto. De hecho, una de las principales razones por las que me centro en los riesgos es que son lo único que nos separa de lo que considero un futuro fundamentalmente positivo. Creo que la mayoría de la gente subestima lo radicales que podrían ser las ventajas de la IA, al igual que subestima lo graves que podrían ser sus riesgos.
En este ensayo intento esbozar cómo podrían ser esas ventajas: cómo sería un mundo con una IA potente si todo sale bien. Por supuesto, nadie puede predecir el futuro con certeza ni precisión, y es probable que los efectos de una IA potente sean aún más impredecibles que los cambios tecnológicos anteriores, por lo que todo esto consistirá inevitablemente en conjeturas.
Pero mi objetivo es, al menos, conjeturas fundamentadas y útiles, que capten una idea de lo que sucederá incluso si la mayoría de los detalles resultan erróneos. Incluyo muchos detalles principalmente porque creo que una visión concreta contribuye más al avance del debate que una visión muy limitada y abstracta.
Primero, sin embargo, quería explicar brevemente por qué Anthropic y yo no hemos hablado tanto sobre las ventajas de una IA potente, y por qué probablemente seguiremos, en general, hablando mucho sobre los riesgos. En particular, he tomado esta decisión por el deseo de:
Maximizar el apalancamiento
El desarrollo básico de la tecnología de IA y muchos (no todos) de sus beneficios parece inevitable (a menos que los riesgos lo descarrilen todo) y está impulsado fundamentalmente por poderosas fuerzas del mercado.
Por otro lado, los riesgos no están predeterminados y nuestras acciones pueden cambiar considerablemente su probabilidad.
Evite la percepción de propaganda
Que las empresas de IA hablen de todos sus increíbles beneficios puede parecer propagandista o como si intentaran distraer la atención de las desventajas. También creo que, por principio, es malo para el alma dedicar demasiado tiempo a hablar de su propio libro.
Evite la grandiosidad
A menudo me desanima la forma en que muchas figuras públicas del riesgo de la IA (por no hablar de los líderes de empresas de IA) hablan del mundo post-IAG, como si su misión fuera lograrlo por sí solas, como un profeta que guía a su pueblo a la salvación. Creo que es peligroso ver a las empresas como si moldearan el mundo unilateralmente, y peligroso considerar los objetivos tecnológicos prácticos en términos esencialmente religiosos.
Evite el bagaje de «ciencia ficción».
Aunque creo que la mayoría de la gente subestima las ventajas de una IA potente, la pequeña comunidad que sí debate sobre futuros radicales de la IA a menudo lo hace en un tono excesivamente «de ciencia ficción» (incluye, por ejemplo, mentes cargadas, exploración espacial o un toque ciberpunk en general).
Creo que esto hace que la gente se tome las afirmaciones menos en serio y las imbuya de una especie de irrealidad. Para ser claros, la cuestión no es si las tecnologías descritas son posibles o probables (el ensayo principal lo analiza con gran detalle); se trata más bien de que la «vibra» introduce connotativamente un montón de bagaje cultural y suposiciones tácitas sobre qué tipo de futuro es deseable, cómo se desarrollarán diversos problemas sociales, etc.
El resultado a menudo termina pareciendo una fantasía para una subcultura limitada, a la vez que resulta desagradable para la mayoría de la gente.
Cómo la IA generativa está transformando silenciosamente nuestra forma de pensar, hablar e imaginar
La siguiente contribución corresponde al portal de The Global Generative AI Award que se define así: El Premio Global de IA Generativa es un prestigioso programa de reconocimiento que celebra la excelencia, la innovación y el impacto en el desarrollo y la aplicación de la IA generativa.
Nuestra misión es identificar y reconocer a las organizaciones y personas que impulsan y utilizan la tecnología de IA Generativa, aprovechando su potencial para transformar diversos sectores, mejorar vidas y crear un futuro mejor para todos.
La autoría es del equipo.
La inteligencia artificial se está convirtiendo en el nuevo atajo cognitivo. Redacta ensayos, resuelve problemas y genera textos fluidos con una velocidad que ningún ser humano puede igualar.
Pero la verdadera disrupción no reside en la productividad, sino en cómo esta tecnología puede transformar la arquitectura del pensamiento humano y el lenguaje mismo que usamos para comprender el mundo.
Hablamos a menudo de cómo la IA transformará las economías, los empleos y las industrias. Hablamos mucho menos de cómo podría transformar la mente.
El riesgo tras la comodidad
La psicología y la neurociencia nos dan pistas. Los humanos adaptan su pensamiento a las herramientas que utilizan. Cuando las personas dependen excesivamente del GPS, su capacidad para formar mapas mentales se debilita.
Los taxistas londinenses entrenaron su hipocampo (el centro de la memoria espacial del cerebro) durante años memorizando miles de calles. Hoy en día, la navegación por satélite ha reemplazado ese esfuerzo cognitivo.
La IA generativa impulsa aún más esta tendencia. Si una herramienta puede producir un lenguaje instantáneo, pulido y fluido, podríamos ir desvinculándonos poco a poco de la dificultad de pensar con palabras. El peligro es sutil. El lenguaje no es un contenedor pasivo de pensamientos. Es el medio a través del cual el pensamiento se organiza.
La obra clásica de Lev Vygotsky lo ilustra claramente. Los pacientes con afasia eran incapaces de pronunciar frases como «la nieve es negra». Sus mentes se resistían a separar los objetos de las palabras que los representaban. Vygotsky argumentaba que el pensamiento creativo depende de nuestra capacidad para usar el lenguaje libremente, no como un guion, sino como una herramienta para explorar el significado.
Cuando la IA comienza a proporcionar expresiones predefinidas, oraciones prefabricadas y párrafos idealizados, ese vínculo creativo puede debilitarse.
La erosión silenciosa del esfuerzo cognitivo
La educación muestra la rapidez con la que puede producirse esta erosión. Los estudiantes utilizan cada vez más la IA para resumir libros, escribir ensayos y resolver tareas. Muchos producen una prosa impecable, pero muestran poca comprensión cuando se les pregunta. La IA les da «respuestas perfectas», pero les ahorra el esfuerzo necesario para comprender realmente un concepto.
La investigación está abordando estas preocupaciones.
Una revisión sistemática de 2024 reveló que la dependencia excesiva de la IA reducía la implicación cognitiva. Otro estudio con 285 estudiantes universitarios en Pakistán y China reveló que las herramientas de IA afectaban negativamente la toma de decisiones y reducían la motivación para usar la memoria, el razonamiento analítico o el pensamiento crítico.
El patrón es claro. Cuando una herramienta gestiona la carga cognitiva, el cerebro finalmente deja de ejercitar esos músculos.
Desgaste lingüístico en la era digital
Los neurolingüistas han documentado desde hace tiempo el desgaste lingüístico, la pérdida gradual de la capacidad lingüística cuando un idioma no se utiliza activamente. Michel Paradis lo define de forma sencilla: el desgaste es el resultado de la falta de estimulación a largo plazo.
La IA generativa introduce un riesgo similar a nivel estructural. Si el lenguaje se convierte en algo que consumimos en lugar de algo que construimos, nuestra relación con las palabras se debilita. Dejamos de buscar la expresión. Empezamos a seleccionar entre lo que la máquina ofrece.
Este cambio no sólo cambia cómo hablamos, sino también cómo imaginamos
Por qué esto es importante para la sociedad
El lenguaje y el pensamiento coevolucionaron. A través del lenguaje, un niño transforma sensaciones crudas en significado. Mediante la abstracción, un adolescente aprende a reflexionar, analizar y anticipar. El pensamiento maduro se basa en la capacidad de construir conceptos mediante palabras.
Cuando la IA empieza a dictar la forma del lenguaje, corremos el riesgo de construir una cultura de inmediatez, emoción sin profundidad, reacción sin reflexión. En lugar de autores de pensamiento original, nos convertimos en editores de fragmentos reciclados.
Las implicaciones se extienden a la política y al discurso público.
El lenguaje define los límites de la imaginación pública. Quien controla la infraestructura lingüística (plataformas, algoritmos, modelos generativos) moldea indirectamente lo que las personas pueden expresar, debatir o concebir.
Si el lenguaje político se automatiza, el diálogo democrático corre el riesgo de desmoronarse en eslóganes algorítmicos generados por nadie y de los que nadie es dueño.
La IA no es el enemigo, la pasividad sí lo es
La IA generativa puede ser un poderoso aliado cuando la utilizan personas que ya tienen una relación profunda y reflexiva con el lenguaje. En esas manos, la IA se convierte en una extensión del pensamiento, no en un sustituto. Pero el peligro reside en renunciar por completo al esfuerzo cognitivo.
Preservar la integridad del pensamiento requiere práctica para devolver el lenguaje a sus raíces humanas. El proceso laborioso, a veces confuso, de buscar la palabra adecuada. La disciplina de articular una idea en lugar de externalizarla. La alegría de dar forma al significado con la propia voz.
Reclamando el futuro del pensamiento
La IA no se detendrá. Ni debería hacerlo. Pero debemos evitar externalizar nuestras mentes a la conveniencia. Lo que hay que defender es la belleza y la complejidad del pensamiento verbal, la libertad de imaginar, concebir y articular el mundo en nuestros propios términos.
Si queremos un futuro donde la creatividad humana siga siendo importante, debemos mantener vivo el lenguaje como una práctica, no como un producto. El futuro del pensamiento depende de ello.
Un Nuevo Propósito Nacional: La IA Promete un Futuro Líder Mundial para Gran Bretaña
La siguiente contribución corresponde al portal de Tony Blair Institute for Global Change
Los autores son Pete Furlong, Melanie Garson, Kirsty Innes, Alexander Iosad, Oliver Large, John-Clark Levin, Kevin Zandermann
Nuestra iniciativa «El Futuro de Gran Bretaña» establece una agenda política para una nueva era de invención e innovación, basada en ideas radicales pero prácticas y reformas genuinas que incorporan la revolución tecnológica. Las soluciones desarrolladas por nuestros expertos transformarán los servicios públicos y darán lugar a un Reino Unido más verde, saludable y próspero.
Un Nuevo Propósito Nacional: La IA Promete un Futuro Líder Mundial para Gran Bretaña es un informe conjunto de Tony Blair y William Hague.
Prólogo
En nuestro documento conjunto «Un Nuevo Propósito Nacional: La Innovación Puede Impulsar el Futuro de Gran Bretaña», publicado en febrero de 2023, exponemos cómo el Reino Unido podría estar a la vanguardia de los avances científicos y tecnológicos. Este informe adicional describe lo que este país deberá hacer para ser líder mundial en el desarrollo seguro y exitoso de la inteligencia artificial (IA), un asunto tan urgente e importante que nuestra respuesta probablemente determinará el futuro de Gran Bretaña.
Este liderazgo global requerirá una importante aceleración y ampliación de las iniciativas ya anunciadas por el gobierno británico. Por ejemplo, solicitamos que el aumento previsto de la capacidad de cómputo del Reino Unido sea diez veces mayor que el previsto actualmente, y que el gobierno alcance la capacidad de exaescala en un año, en lugar de 2026. Argumentamos que se deberían revisar los compromisos de gasto importantes para desviar fondos hacia infraestructuras de ciencia y tecnología, así como para proporcionar el talento y los programas de investigación necesarios para ser un líder mundial en IA.
Nuestro informe ofrece un plan integral para la reestructuración de la maquinaria gubernamental, incluyendo la forma de asesorar a los ministros; la incorporación de la experiencia necesaria al gobierno; la garantía de la estrecha colaboración entre los sectores público y privado; la insistencia en que la investigación y la regulación se desarrollen de forma conjunta y ágil; y el desarrollo de capacidades soberanas que serán vitales para proporcionar una orientación y una regulación eficaces. Renovamos nuestro llamamiento a favor de una Agencia de Contratación Pública Avanzada para fomentar la innovación, describir cómo se podrían modernizar la formación y la educación, y a favor de un trabajo urgente en el uso de la IA para mejorar los servicios públicos.
Para que el Reino Unido se sitúe a la vanguardia del pensamiento global sobre IA, solicitamos un laboratorio nacional que colabore con el sector privado y otros países en su desarrollo seguro. Sugerimos cómo el gobierno del Reino Unido, en colaboración con Estados Unidos y otros aliados, podría impulsar un nuevo marco de la ONU sobre salvaguardias urgentes. Describimos las medidas necesarias para afrontar la amenaza inmediata de la desinformación generalizada. Y explicamos cómo el Reino Unido podría, en colaboración con la Unión Europea, desarrollar un modelo de regulación alineado con los estándares estadounidenses que resulte muy atractivo para las startups, atrayendo talento e inversión al país.
Presentamos ideas para “Laboratorios de Innovación Disruptiva” y para el trabajo inicial que demuestre cómo la IA puede transformar la infraestructura nacional. A largo plazo, ofrecemos reflexiones sobre la capacitación y el aprendizaje permanente, temas que serán de suma importancia para la prosperidad económica futura. La sociedad está a punto de transformarse radicalmente, lo que requiere un Estado más estratégico y un cambio fundamental en nuestra planificación del futuro. Estas ideas buscan ayudar a todos los partidos políticos a encontrar la mejor manera de avanzar, con la rapidez y el sentido de prioridad necesarios, en un período de cambios drásticos y oportunidades que ya ha comenzado.
Tony Blair y William Hague
Capítulo 2
Resumen ejecutivo
La inteligencia artificial (IA) es la tecnología más importante de nuestra generación.
Acertar con las políticas en este tema es fundamental y podría determinar el futuro de Gran Bretaña. Las oportunidades potenciales son enormes: cambiar la forma del Estado, la naturaleza de la ciencia y aumentar las capacidades de los ciudadanos.
Pero los riesgos también son profundos y ahora es el momento de moldear esta tecnología de forma positiva.
Para el Reino Unido, esta tarea es urgente. La velocidad del cambio en la IA subraya todo lo expuesto en nuestro primer informe sobre el Nuevo Propósito Nacional [1], que exigía una nueva agenda política radical y una reestructuración del Estado, con la ciencia y la tecnología como ejes centrales.
Aún no está claro cómo se desarrollará la IA, pero ya se está difundiendo en la economía y la sociedad. Esto se acelerará en los próximos años.
Lo cierto es que nuestras instituciones no están configuradas para abordar la ciencia y la tecnología, en particular su crecimiento exponencial. Es absolutamente vital que esto cambie.
El gobierno está empezando a reconocer algunos elementos de este desafío. Sin embargo, se trata de una tecnología con un impacto similar al del motor de combustión interna, la electricidad e internet, por lo que el gradualismo no será suficiente.
Primero, el Estado debe reorientarse hacia este desafío. Se necesitan cambios importantes en la forma en que el gobierno se organiza, colabora con el sector privado, promueve la investigación, aprovecha la experiencia y recibe asesoramiento.
Las recomendaciones para lograrlo incluyen:
Asegurar una inversión a lo largo de varias décadas en infraestructura de ciencia y tecnología, así como en talento y programas de investigación, reordenando las prioridades de grandes cantidades de inversión de capital para esta tarea.
Impulsar el funcionamiento del Número 10, disolviendo el Consejo de IA y fortaleciendo el Grupo de Trabajo del Modelo Fundacional, de modo que informe directamente al primer ministro.
Perfeccionar la Oficina de Inteligencia Artificial para que ofrezca una mejor función de previsión y mayor agilidad al gobierno para abordar el cambio tecnológico.
En segundo lugar, el Reino Unido puede convertirse en líder en el desarrollo de una IA segura, fiable y de vanguardia, en colaboración con sus aliados. El país tiene la oportunidad de crear una regulación eficaz que vaya mucho más allá de las propuestas existentes, pero que también sea más atractiva para el talento y las empresas que el enfoque adoptado por la Unión Europea.
Entre las recomendaciones para lograrlo se incluyen:
Crear Sentinel, un laboratorio nacional centrado en la investigación y las pruebas de IA segura, con el objetivo de convertirse en el «cerebro» de un regulador de IA tanto en el Reino Unido como a nivel internacional. Sentinel reconocería que la regulación y el control eficaces son, y probablemente seguirán siendo, un problema de investigación en curso, lo que requiere una combinación excepcionalmente estrecha de investigación y regulación.
Por último, el Reino Unido puede ser pionero en la implementación y el uso de esta tecnología en el mundo real, construyendo empresas de nueva generación y creando un estado estratégico del siglo XXI.
Las recomendaciones para lograrlo incluyen:
Lanzar importantes programas de talento en IA, incluyendo la contratación internacional y la creación de becas para eruditos, que permitan a los mejores investigadores no especializados en IA aprender sobre IA, así como a investigadores líderes en IA aprender sobre campos ajenos a la IA e intercambiar ideas.
Exigir un enfoque de acceso escalonado para la provisión de computación, bajo el cual el acceso a mayores cantidades de computación conlleva requisitos adicionales para demostrar un uso responsable.
Exigir a las empresas de IA generativa que etiqueten los medios sintéticos que producen como deepfakes y a las plataformas de redes sociales que eliminen los deepfakes no etiquetados.
Construir una infraestructura para la era de la IA, incluyendo capacidad de computación, y transformar los datos en un activo público mediante la creación de conjuntos de datos de gran valor y bien público.
Es fundamental involucrar al público en todos estos desarrollos para garantizar que el desarrollo de la IA sea responsable y brindar a las personas las habilidades y la oportunidad de adaptarse. El Reino Unido tiene la responsabilidad y la oportunidad de liderar el mundo en el establecimiento del marco para una IA segura.
Capítulo 3
Introducción
En menos de una década, la IA ha pasado de ser ficción científica a realidad tecnológica. Nuestro primer informe sobre el Nuevo Propósito Nacional[2]Enlace a la nota a pie de página defendió la necesidad de un «estado estratégico» que pueda aprovechar al máximo el poder de la ciencia y la tecnología para mejorar la vida de las personas. Esta debe ser la ambición principal del Reino Unido, ya que las naciones que puedan reestructurar eficazmente sus estados en torno a la tecnología serán las que definan el futuro.
Si bien la IA ha acelerado la necesidad de esta transformación, varios aspectos plantean desafíos a los enfoques convencionales de políticas y gobernanza.
El primero surge de la velocidad del cambio. La IA se está desarrollando a un ritmo que sorprende incluso a algunos de sus pioneros.[3] Enlace a la nota al pie. Algoritmos relativamente simples, impulsados por enormes cantidades de potencia computacional y datos, están produciendo modelos que ya pueden superar el pensamiento humano en una variedad de tareas cognitivas.
El segundo es la imprevisibilidad del progreso. Por ejemplo, hace cinco años el consenso era que las industrias creativas serían de las últimas en automatizarse, pero los modelos de IA generativa han comenzado a cambiar esta situación. A diferencia de muchos avances tecnológicos anteriores, el progreso en IA no está impulsado por una teoría general. En cambio, se desarrolla principalmente a través de la experimentación y las modificaciones. Esto significa que, en esta era de IA basada en el aprendizaje profundo, los creadores desconocen el alcance total de sus capacidades.
El tercero es la experiencia necesaria para comprender y desarrollar la IA. La experiencia necesaria para el desarrollo global de la IA reside en un grupo reducido y muy solicitado de personas, en su mayoría residentes en laboratorios privados y, definitivamente, no en el sistema de Whitehall.
El cuarto problema es el alcance y la escala del potencial de la IA. Las máquinas capaces de superar a los humanos tendrán capacidades aún inimaginables. De ahí el quinto desafío, y el más significativo desde el punto de vista social: la velocidad y la escala del cambio en el funcionamiento y la organización de las sociedades. La automatización del trabajo cognitivo supone un profundo cambio tecnológico en la forma en que se realizan las tareas, se produce el conocimiento y se comunica la información. Si esto se materializa, aspectos fundamentales del funcionamiento de la sociedad deberán adaptarse rápidamente a un mundo en el que se automatiza una fuente primaria de contribución y propósito económico.
En pocas palabras, el desarrollo impredecible de la IA, su ritmo de cambio y su creciente poder implican que su llegada podría representar el mayor desafío político jamás afrontado, para el cual los enfoques y canales estatales existentes están mal configurados.