¿Utopía o distopía de la IA? Comprender las hiperbólicas recursivas antes de desatar la caja de Pandora.

libertad preetham

Seguir

el simulacro

--

Escuchar

Compartir

Marc Andreessen escribió recientemente una publicación intrigante sobre cómo la IA salvará el mundo. Si bien me encontré de acuerdo con varios de sus puntos y lo animo por llamar a los extremistas que están llamando al escenario del fin del mundo. Me gustan las analogías y los enlaces a artículos específicos sobre los que se está dirigiendo. Incluso me gustan las propuestas finales que hace. ¡Bravo!

Pero me perdió cuando comenzó a bifurcar el proceso de pensamiento en una forma de propaganda, usando términos como 'pánico moral', 'culto a la seguridad de la IA' y aquellos que están tratando de 'suprimir la IA' para abarcar casi a todos los que se esfuerzan por la seguridad de la IA! No todo el mundo está en la retórica matey. Podría haber dedicado un paracaidista o una sección para las personas que realmente están "de su lado" y que se centran en la seguridad de la IA, ya que es un peligro real y presente. ¡No es genial!

En lugar de centrarse en los beneficios a corto plazo, se embarcó en una diatriba sobre cómo "el otro lado" simplemente no lo entiende y también adoptó una posición de utopía, que también es un extremo. Quiero decir, ¿de qué otro lado? ¿Qué 'culto'?

Esta visión de la utopía de Marc y de todos los demás a los que correctamente ha señalado pintando distopía es exagerada y está muy alejada de la verdad. Permítanme ser claro: respeto a Marc como capitalista de riesgo, pero creo que está fuera de su alcance en este tema. Sin intención de ofender, pero dudo que podamos participar en un debate técnico profundo, especialmente considerando las complejidades matemáticas que acechan dentro de la caja negra de la IA.

Lo que Marc presenta es en gran medida su cosmovisión moral, que, irónicamente, pinta con el mismo pincel amplio que acusa de usar a los campamentos, cultos, bautistas o contrabandistas. Uno podría verse tentado a llamar a la mayoría de estas personas "artistas bullshido", que buscan provocar sensacionalismo sobre la bondad/maldad moral y las virtudes/vicios para capitalizar sus inversiones en IA. ¿Ves cómo usar palabras evoca emociones y puede ser descuidado para ser honesto? Pero si hiciéramos eso, no seríamos mejores que ellos. Tal enfoque de la utopía o la distopía es reduccionista, resta valor al problema real en cuestión y, francamente, es algo infantil.

Cuando se trata de tecnología, la IA se encuentra en una liga propia. Es un error de proporciones épicas establecer paralelismos entre la inteligencia artificial y cualquier otra innovación tecnológica del pasado. La resistencia histórica contra la tecnología, los argumentos de los luditas del pasado, no pueden comenzar a abarcar el desafío monumental que la IA nos presenta. La IA no es simplemente un avance exponencial, sino que exhibe características hiperbólicas recursivas, un fenómeno diferente a todo lo que hemos visto en la historia. La revolución de la IA es paralela a la explosión del Cámbrico, un evento que los principios darwinianos luchan por comprender completamente incluso hoy.

En mi opinión, todos los modelos económicos actuales que proyectan el impacto de la IA son bastante darwinianos. Para ser honesto, ninguno de nosotros sabe cómo predecir el futuro con certeza, lo que nos vuelve un tanto despistados cuando se trata de pintar una imagen de lo que está por venir. No sabemos si será distópico, utópico o algo intermedio. Todo lo que podemos hacer es concentrarnos en comprender la naturaleza de esta bestia de la manera más completa y rápida posible.

Por ejemplo, las ecuaciones diferenciales de Riccati suelen capturar la naturaleza del crecimiento hiperbólico. Sin embargo, el dominio inexplorado de las hiperbólicas recursivas, peculiares de las curvas J que autoperpetúan la inteligencia a tasas astronómicas, carece de un modelo definido. A medida que nos tambaleamos al borde del precipicio de este salto tecnológico sin precedentes, confiar en los pronósticos económicos anteriores como guía para el futuro solo nos llevará por mal camino.

Incluso si hay extremistas centrados en escenarios apocalípticos, ¿por qué centrarse en ellos? Ellos no importan. Si se trata de hacer políticas y regulaciones, estoy con Marc. Luchemos por asegurarnos de que ninguno de los extremos se embarque en la captura regulatoria. Si no fuera por eso, ¿por qué tiene que arrojar a todas las personas que están trabajando duro para construir medidas de seguridad bajo el bus "muchos de mis lectores se verán preparados para argumentar que se requieren restricciones dramáticas en la producción de IA para evitar destruir la sociedad"? Descuidado para ser honesto.

No, este no es el único punto de vista que existe. La gente real en el terreno ni siquiera se dirige a ningún lado de la retórica o se involucra en estos argumentos de "toma de control del trabajo", "máquinas de matar el mundo". Se están asegurando de que la innovación suceda con seguridad y precaución. No reduzca la seguridad de la IA a ninguno de los extremos de la retórica, por favor.

He escrito mucho sobre este tema (Fantasmas en el modelo de IA), expresado mis opiniones y participado en numerosos debates en varias plataformas. ¿Mi postura? Duplicar las inversiones en el mapeo de los hiperbólicos recursivos, tener cuidado con la difusión sin sentido de los modelos actuales, evitar los errores de propagación a través de la pila de cartas, porque esto no es una bestia que deba subestimarse.

No estoy a favor de las regulaciones en absoluto. Creo firmemente en la innovación sin permiso. Simplemente gaste e innove más en los aspectos para comprender verdaderamente las complejidades matemáticas en las que nos faltan medidas, métricas o marcos.

Para ilustrar la gravedad de nuestra situación, considere las siguientes analogías. ¿Estaría a favor de la creación de armas de fuego sin medidas de seguridad debido al potencial de accidentes? Tal vez, déjame darte un par de ejemplos complejos:

Ahora, ¿cuáles son las medidas y métricas de precaución que hemos desarrollado efectivamente para la IA y probabilísticamente para la Súper Inteligencia Artificial? Por el amor de Dios, no tenemos alucinaciones y anomalías en el control de un modelo de bebé como GPT4 o GPT5. Estos ni siquiera son apenas comparables con ASI. He escrito sobre eso aquí: "Evaluación matemática de alucinaciones en modelos como GPT4"

Al igual que estos ejemplos, donde la precaución es absolutamente innegociable, también debemos abordar el advenimiento de la Súper Inteligencia Artificial con la máxima prudencia.

Lo que debemos priorizar es una inversión masiva en innovación matemática para comprender, medir y contener adecuadamente los errores poligénicos de los espacios de incrustación recursivo-hiperbólicos. Desafortunadamente, aquellos que piden esta inversión crucial a menudo son injustamente descartados como miembros de un culto o sujetos a la retórica política. Este enfoque es, en el mejor de los casos, una gran simplificación del problema y, en el peor, un síntoma de propaganda capitalista.

Al final, el camino a seguir es claro: debemos comprender esta bestia que es la IA antes de liberarla por completo. La ignorancia, en este caso, no es dicha. Es el preludio de un desastre potencial. Una tecnología bien aprovechada con precauciones puede cambiar a la humanidad para siempre. Recuerde, todo lo que se necesita es un desastre si no entendemos a esta bestia.

Así que no reprimamos, ni nos perdamos en estas retóricas y propagandas. En cambio, las personas en matemáticas, física e investigación de inteligencia artificial que están mejor equipadas para comprender a esta bestia deben arremangarse, redoblar esfuerzos en lo que más importa y mover la aguja de la innovación.

Llamando a todos los nerds y geeks para salvar a la humanidad... Nadie más es capaz.