- Apple se lo piensa con las gafas
- La resaca de "el incidente" ¿Escapó la IA del control humano?
- Microsoft, Meta, Nvidia y otras 22 organizaciones defienden los modelos de pesos abiertos
- Ha llegado la IA a la teletienda europea
- Robots humanoides operan a un cerdo vivo por primera vez
monos estocásticos es el pódcast de inteligencia artificial presentado desde Málaga por Antonio Ortiz (@antonello) y Matías S. Zavia (@matiass). Hay un episodio nuevo cada jueves. Puedes unirte gratis a nuestro club social de Telegram y seguirnos en redes sociales:
Todos los episodios en YouTube: https://www.youtube.com/playlist?list=PL-6s6cUsxTnsY_V0rqQFURaHDYuXD0AXj
Más enlaces al pódcast: https://cuonda.com/monos-estocasticos/links
Transcripción
Hola a todos los monos estocásticos, y bienvenidos una semana más al podcast favorito de Valentín Carrasco Ferrer. ¿Quién es Valentín Carrasco Ferrer? Pues deberíais conocerlo, porque acaba de revalidar su título en el Campeonato Mundial de Comedores de Sobaos, con un nuevo récord, dieciocho Sobaos en ocho minutos. Un deporte que yo podría probar a ver si le hago competencia a este señor. ¿Cómo estás, Antonio?
Pues, Matías, yo he estado pensando en Valentín, en su hazaña, y, de hecho, en cuanto vi este vídeo, me acordé de nosotros, pensé en que, obviamente, íbamos a ser su podcast favorito, pero también creo que explica una cosa, Mati, que es por qué tú y yo, con lo visionerísimos que somos, es decir, somos gente con de luces largas que ve ahí, las tendencias y el futuro, ¿por qué no no nos hacemos millonarios con la IA? ¿Por qué no no triunfamos como como otros? Y es que, claro, yo cuando vi esto de Valentín, pues inmediatamente empecé a investigar sus perfiles sociales, noticias en la prensa, y empecé a descubrir muchos factores de enorme interés para mí, como, por ejemplo, que el primer reto, atención, Matías, que ganó Valentín Carrasco, lo ganó en Málaga, en la cadena de restaurante Taxi Angus, porque su primo Paco le animó a hacerlo, se comió una torre de hamburguesas de diez carnes. Yo no estaba muy metido en este en este tema de las competiciones de de zampones, y, bueno, y he estado ahí, claro, atento porque no es una carrera solo, ¿no? Solo de de de dulces y rosas, ¿no?
De vino y rosas para Valentín. También ha tenido algún fracaso, algún traspiés. En un reto de Estados Unidos fallo en un bocadillo de de seis kilos y y, además, cuando fallas en estas competiciones, Matías, ha descubierto que lo pagas, pagas duro, no es es gratis si te lo comes entero, ¿no? Haces la hazaña y tienes que pagarlo si si no eres capaz de acabártelo. Entonces, ahí mordió el polvo el amigo el amigo Valentín.
En fin, yo he estado fijándome también que Valentín hace una cosa muy astuta, que es como los saltadores de pértica. No sé si te percatado alguna vez, has caído en eso, que siempre baten el récord por un centímetro, ¿no? ¿Por qué? Porque si lo bates por diez centímetros, es muy difícil volver a batirlo. Entonces, ellos van, ¿no?
Los saltadores de pértiga batiendo récords centímetro tras centímetro de manera que sales más en la noticia, te pagan más los patrocinadores, ¿no? Eres eres más notorio. Y, claro, ¿qué es lo que ha hecho Valentín? Pues, el anterior récord, su anterior hazaña, atención, porque estaba en diecisiete sobaos en ocho minutos y ahora ha pasado a dieciocho. ¿Qué qué estrategia?
¿Qué cabeza para para el marketing y, bueno, yo aquí lo único que puedo subrayar, que que he estado ahí también reflexionando, es que creo que es un toque de atención para Cantabria, Matías. Es que la playa del sardinero, no sé qué, el cocido Montañer, todo muy bien, pero pero ojo, porque este chico de este señor de Cartagena está imponiéndose año tras año en la competición de de Sobados y yo creo que es un toque de atención para la industria de influencers japonés cántabras, que, no sé, estarán despistadas, estará otras cosas, pero no, no consigue igualar el nivel de Valentín.
Yo tengo que admitir que, a pesar de que a mí me encanta comer, este tipo de eventos en los que la la meta es meterse cuanto más sobados en la boca o hamburguesas o perritos calientes, y lo suelen como intentar sin masticar de alguna forma deglutir y meter eso todo ahí con agua o con leche, en este caso, para que baje rápido, me da un asco que yo le diría a la Unión Europea después de de que haya, de alguna forma, regulado cómo se emiten los eventos deportivos femeninos, pues que se pongan con esto, porque de verdad que me revuelve un poco el estómago, nunca mejor dicho, ver este tipo de competiciones.
Sí, yo creo que ahí a lo mejor hace falta un comité de expertos cojo aquí, porque, a lo mejor, no nos hemos hecho rico con la ILA, pero como comité de expertos de regulación de competiciones de sobaos y hamburguesas gigantes y bocadillos enormes, quizás quizás ahí sí tenemos un chance, mate. Pero bueno, mientras llega eso y von Tarrallen nos llama, vamos a ponernos con las cosas de la guía, porque esta semana te voy a anticipar una cosa, Mathey. He dado un girito en mis posiciones con respecto a la inteligencia artificial y ahora soy un poco domeriano, Matías.
Un poco Dumeriano, uf, pues varias semanas has tenido como Dumeriano, ¿no? Después de todo lo de Hug in face, pues la singularidad, cuéntame, cuéntame.
Bueno, vamos a empezar con con noticias, vamos a empezar poco a poco, porque hay gente que se lo ha estado pensando y que también está entre, ya decía la canción Shure State, Shure go, y es la la la los amigos de Apple, Matte. No sé si has estado siguiendo la noticia porque, bueno, el periodista Mark Urman vuelve a dar un anticipo de que, prácticamente, Apple tenía sus gafas conectadas casi preparadas para este año. Pero, bueno, al final cambia de cambia de estrategia y ha planeado llevárselas, presentarlas en la WWDC de junio del año que viene, con una venta, ¿no? Con una propuesta para el consumidor para dos mil veintisiete. Y parte del retraso, explica Gourman, se debe a que sus equipos de ingeniería y marketing no tienen muy claro cómo ajustar el tema de la privacidad.
¿Qué impresión se están llevando en Apple? Que ahora mismo la cosa con las gafas de meta, pues, dista de ser una alegría y un entusiasmo total y completo de de la ciudadanía con respecto a este a este dispositivo que recordemos, pues permite la fotografía, permite las grabaciones, etcétera, ¿no? Entonces, ¿qué es lo que Apple está barajando con respecto a sus gafas para para el año que viene? Pues, tiene desde ir full como meta, ¿sí? Con con grabación, con fotos, etcétera, hasta opciones mucho más conservadoras, digamos, o más por privacidad, como la gafa directamente sin cámara, solo para manejo con con audio, o una que teniendo cámara no permita grabar ni hacer fotos.
Es decir, sería una cámara que solo sería para la IA, pero no para almacenar ni guardar absolutamente nada, que es algo que además ellos también han bajado han bajado para los iPod Chimovallo. Acuérdate que teníamos esa parte de que iban a salir unos iPods con con camarita, y que parte de lo curioso o de lo llamativo era que aunque tuvieran cámara no ibas a poder hacer fotos. ¿Para qué servían tú a hacer la cámara? Pues, básicamente, para que la inteligencia artificial pueda procesar tu entorno y responderte y aconsejarte mucho mejor con la información de lo que tienes delante. Así que ahora mismo no es un, digamos, un debate tecnológico el que hay dentro de Apple, sino que es un debate sobre cuál es el nivel adecuado de privacidad, cuál es la aceptación social que tiene este dispositivo y, básicamente, cómo encajarlo en, bueno, la, digamos, en la estrategia de una compañía que viene haciendo gala de que lo más importante y su gran diferencial o uno de ellos es la privacidad, y que con esto, pues, se te haría las bases de algo que puede ser un poquito polémico, Matthew.
Aquí hay que reconocerle a Mark Zuckerberg dos cosas. Primero, la velocidad mental que tuvo o que tuvo Meta al aliarse con ese hilo luxótica, porque al final la gente se está comprando unas Ravens, se está comprando una Soaclay, se está comprando gafas que le gustan estéticamente y que le dan esas funciones extra de inteligencia artificial y de grabación de vídeo y de toma de fotos, que causa mucho rechazo. A mí mismo me pone muy incómodo cuando hay una persona con unas gafas de meta en un grupo, porque no sabes si te está grabando, si no te está grabando. Luego suele ser siempre, pues la persona más insoportable que conoces, la que está con las gafas haciendo fotos, pero la jugada a meta le salió muy bien. Yo no sé si Apple puede hacer algo con las gafas para aportar cualquier cosa que Meta no esté aportando ya.
Esa, en esa situación, Apple está ya con un montón de cosas, como con los plegables, y va a ser el gran desafío de John Turner. Pero, desde luego, que lo de Rayvan fue clave en el éxito de las gafas, y si salen las gafas de Apple en Europa, lo único que podremos hacer es decirle a Siri, Siri pon un temporizador de quince minutos. Es que no hay absolutamente nada más que se pueda hacer con Siri en Europa ahora mismo.
Sí, es que, claro, si tú vas como muy conservador con la parte de imagen y vídeo, pues el valor del producto baja. Es decir, unas gafas solo para hablar con la IA, también para escuchar música, atender llamadas, es decir, son un dispositivo que hace más cositas, pero que que parte del avance está en que, de
hecho, a
a las gafas debía el caso de uso mejor de todos era acabar con los móviles en los conciertos. Es decir, una vez que tú tengas una gafa que sean lo suficientemente buenas y quieras llevarte un recuerdo de tu concierto, yo soy de los que me llevo un recuerdo, aunque no grabo el concierto entero, ojo, pero claro, la el problema también es que la la las cámaras de de lo del de de las smart glases de de meta, pues son sensiblemente, bueno, bastante peores, ¿no? El caso, Matthew, es que yo creo que aquí hay un un un tema de aceptación social en el que, además, como lo plantea el dispositivo en sí, por su naturaleza, pero, bueno, en el caso concreto de Meta, tiene una problemática, que es que, digamos, que tú como En ese grupo de amigos, el que decide llevar las gafas es otro, ¿vale? Y el riesgo de pérdida de privacidad no es para ese otro, que nunca sale, ¿no? Siempre sale él graba a los demás, es decir, y esos demás, además, él le traslada la responsabilidad de date cuenta de que yo tengo la lucecita encendida en la en la gafa, que es tu problema, ¿no?
Y tú tienes que enterarte, saber, gestionar la situación, estar pendiente. Entonces, es muy ventajista desde el punto de vista de la privacidad para el dueño de la Cafa, que puede tener sus beneficios, ¿no? Por como hacer algunos tiktoks divertidos, por ejemplo, ¿no? Lo que sea, pero traslada toda la problemática a los demás. Entonces, yo creo que en esa en ese campo desigual de quién corre los riesgos y quién quién tiene que darse cuenta y quién pone la gafas y la cámara delante de todos, pues creo que en esa discusión la aceptación social es menos probable que se produzca.
Pero bueno, cosas malas han visto, de hecho, Zuckerberg y Meta, ya lo lo contamos en el podcast, tienen un paso de, no, no, no, con las gafas no se podrá reconocer a nadie, que quien hackee las gafas para añadirles reconocimiento facial, están incumpliendo términos y condiciones a sí, sí, sí, sí, lo vamos a hacer nosotros, ¿no? Y las gafas reconocerán a quien tengas delante si es un si tiene el Instagram abierto, creo que era un poco el el tema. En fin, para que veas que vamos a dar aquí en este episodio un poco de de montaña rusa, porque San Galman vuelve al ruedo de las entrevistas y en una de ellas ha soltado dos takes que creo que que merece la pena discutir. Una, bueno, ha profetizado, entre comillas, que la ILA no va a reducir la jornada laboral, mami. Esto puede ser un disgusto, no sé tú cómo cómo le estás encajando, pero además es una cosa curiosa, porque hace meses un informe de impacto de, futuro impacto de la ILA en el trabajo, la misma OpenAI invitaba a las empresas diciendo, haber ganancias de productividad con la IA, ¿por qué no reducir la jornada de de los trabajadores?
Pero ahora le cesan Altmann de que esto él no cree que que vaya a pasar de verdad.
Pues es la la agenda de de muchos partidos políticos, ¿no? En España, en Europa, un día menos, ¿no? El viernes no trabajar. Y yo ya, como cuando te dicen que te van a dar algo o que el profe no ha venido hoy y de repente aparece después de veinte minutos de espera. Yo ya me había hecho a la idea de no trabajar los viernes y de la abundancia con la inteligencia artificial.
Pero la realidad es que los dos países que están ganando esto trabajan de nueve a nueve, por lo menos en San Francisco, en Shenzhen y en otras ciudades impronunciables están trabajando de nueve a nueve mínimo y todos los días. Sábado igual también.
Claro, el tema es que, básicamente, Alman dice que es por la competitividad humana. Nos gustará competir tanto que si hay más gente que prospera y consigue grandes logros y cosas a nuestro alrededor, pues nos picaremos un poco. Aquí, a lo mejor, mira, que tú tienes cierto géis por la por la práctica de nuestro amigo Valentín, claro, si conseguimos desplazar nuestra competitividad en lugar de en el estatus del patrimonio económico y el capital simbólico que podamos mostrar, a comer más sobados que que la gente, ¿no? Si conseguimos desplazar la competitividad, bueno, o al press banca, ¿no? O cualquier cosa así que ese no pueda ocurrir.
A lo mejor ahí podemos hacer compatible el que la ganancia de productividad de la idea se traduzcan en la jornada de treinta y dos horas, y no que estemos ahí atrapados en una carrera conflictiva de estatus, pues un poco, ¿no? Maldecidos por por la psicología evolutiva, ¿no? Pero, bueno, el el caso es que Altman en la en la misma entrevista empezaba a rontar un discurso que a mí me ha que me ha, yo he conectado con con otros discursos que que hay sobre la mesa, que es, él se da cuenta, él percibe que la humanidad está alcanzando o está entrando en la singularidad. Claro, la singularidad, básicamente, es un discurso que que, pues, básicamente, hemos tenido casi casi dentro de la ficción, ¿no? Desde la ciencia ficción, de hecho, Bentor Binge, no sé pronunciar el nombre de este señor, el que en una en un relato de ciencia ficción acuña el término de singularidad, y es ese punto en que la IA, pues, de alguna manera supera la inteligencia humana y entramos en un en un territorio impredecible, ¿no?
En el que, de alguna manera, también hay una suerte de cesión del control de nuestro destino, porque ya con unas máquinas tan potentes no sabemos, no sabemos qué va a pasar. El caso es que Hassabiz, en un texto hace poco, en el que pedía más regulación, por cierto, volvía a a jugar también con esta idea, ¿no? De que la inteligencia artificial general está ahí ya de unos años, que hay que prepararse, y también nuestro amigo Domingo Gallardo hace una hipótesis, una tesis de esto, en el que decía que, básicamente, los modelos abiertos han crecido muchísimo, pero los modelos cerrados crecen en tamaño mucho más, y que, probablemente, la las grandes empresas de inteligencia artificial o las grandes laboratorio tienen modelos gigantescos internos en el que, básicamente, es posible que que esos modelos, si no ahora, dentro de muy poco, sean ágiles, sean como tengan capacidad que se dan a lo humano, y que eso de nuevo nos mete otra vez en el debate de, oye, como el escalado funciona solo con tamaños más grandes, con con modelos más grandes, más data centers, pues nos metemos en este en este mundillo de la ágil. Entonces, vuelve un poco esa idea de que está al alcance de la mano y de que está pasando, Matías.
Es que nosotros siempre hemos tenido como marco de referencia la AGI, ¿no? Llegar a la AGI. Pero si ya estamos en singularidad, entonces ya hemos pasado la AGI, ¿no? Ahora es un punto de inflexión en el que ya la AGI queda atrás, ahora estamos en la super inteligencia artificial, porque la singularidad es que superan la inteligencia humana, o sea, ya superan la inteligencia general que tenemos los humanos y ya son más inteligentes, son super inteligentes. Nos cambia también un poco la portería, ¿no?
Porque iban a pasar muchas cosas cuando llegara la AGI, ya ha llegado, no nos hemos dado cuenta. Me ha pillado a mí con COVID, me ha pillado, si no, yendo a Conil. No me he enterado, he vuelto y resulta que que estamos ya en singularidad. A mí me cambia un poco lo lo que yo tenía agendado. No sé ni cuándo ha pasado esto.
Claro, es que hay que poner un día como, ¿dónde estabas tú en el Once S, no? ¿No? Que todo el mundo, por ejemplo, de mi generación, te puede decir, no, el momento del Once S yo estaba haciendo esto. Yo me estaba comiendo una, por cierto, yo me estaba comiendo una pizza tropical con piña, con una amiga en el comedor del polideportivo de la UMA. Dato, ¿no?
Que puede ser oportuno poner ahora sobre la mesa, pero, bueno, claro, en esto de la singularidad hay que ponerse, ¿de acuerdo? Y, a lo mejor, fíjate, a lo mejor en el episodio sale un candidato a a momento interesante que recordaremos, pero antes hay que hablar de el lanzamiento de la semana. No, Mati, porque sí, la gente está He notado una cosa, no sé si a ti te pasa que la gente sale un nuevo modelo y y hay muchos comentarios de de alguna parte del personal diciendo uf, qué fatiga, qué cansancio, qué coñazo, otro nuevo modelo, otro lanzamiento, otra noticia. Hay como una un poco de fatiguita con el tema de los lanzamientos, y este esta semana ha sido el de Cloud Opus cinco, que yo yo pensaba diciendo, bueno, tu proveedor de Illa por el mismo precio y te mejora el modelo, ¿por por qué te te quejas tanto, hijo? Pues, quéjate de otra cosa, ¿no?
Pero pero pero algo de eso hay, Mati. Cloud, pues cinco, has podido jugar un poquito con él.
Lo he probado para dos cosas, pero es que seguimos teniendo acceso al Facebook, seguimos teniéndolo ahí utilizable. Yo no sé eso, ¿cuánto cuánto tiempo va a estar ahí? Pero es que yo lo entiendo. Si tú eres Marqués Brownley, el youtuber este de tecnología y acabas de hacer una review del iPhone dieciocho, pues si al día siguiente Apple presenta el iPhone E, este, el barato con una sola cámara, pues a lo mejor no sacas un vídeo de review,
a lo
mejor sacas, pues una idea filosófica que has tenido sobre cómo ha ido cambiando a lo largo del tiempo el acceso a iPhones más baratos. Entonces, pues hay que hay que inventar, hay que jugar de alguna forma diferente, no podemos estar analizando un modelo de de un nivel inferior al al más potente que tiene el propio.
Ya, fíjate que, a lo mejor, de quien debemos aprender es de Fabricio romano, ¿no? ¿No? Es decir, ahora es el momento de el mercado de fichajes, ¿no? La sumeriana, es decir, los rumores, los anuncios, las ofertas rechazadas, las hipótesis. A mí me gusta mucho la noticia del mercado de fichajes de de fútbol, porque ahí hay un espacio para la inventiva, ¿no?
Para soltar cualquier cualquier take y cómo el mundo del deporte vive de, pues, de las polémicas y de las falsas esperanzas, ¿no? Entonces, Fabricio romano, yo creo que es la referencia que debemos tomar para cubrir el mercado de la IA, porque si no, pues, claro, todas estas novedades, posibilidades, etcétera, lo pueden agotar, Matías. Entonces, bueno, cuando cuando sacó Anthropin, Opus cinco, yo creo que, básicamente, nos dejaron a todos con la boca abierta porque, realmente, en la mayoría de pagesmark, ¿no? Que uno lee al principio, pues estaba súper cerca de Fablet cinco. O sea, decían, bueno, cómo, digamos, lo que hasta antes de ayer era un modelo que prácticamente se se sentía inalcanzable, como empezando una nueva era de los modelos de inteligencia artificial, con la clase inferior consigues los mismos resultados, pues el primer feeling con él, ¿no?
Con la primera recepción, la primera comunicación, Anthor Pigloising, bien, porque nos puso todo eso para delante, y incluso en algunos, bueno, pues no en algunos, sino en bastante, Opus cinco, que insisto, es el, digamos, el modelo que incluso sin está disponible en la suscripción más barata, no como Fabell cinco, que la lo tenéis los los los ricos, Mati, como tú, creo, que tenéis una suscripción ahí súper potente, pues, de alguna manera explotaba. Yo me estaba fijando porque me he girado la la la system car y tal, Y hay había una cosa que que se le da muy poca importancia, pero que yo me obsesioné esta semana en mirarlo un poco a fondo, que son benchmarks de tasa de de de alucinación. Es decir, alucina e inventa más, OPUS cinco, en eso se está mejorando. Y me interesa especialmente porque, aunque la mayoría de la industria ya lo que mira son es el benchmark de de ingeniería, ¿no? De de desarrollo software, etcétera, claro, los que trabajamos mucho con la información, papers, noticias, actualidad, la tasa de alucinación y de que veinte y diez errores es muy es muy importante para nosotros, ¿no?
Entonces, básicamente, en en esos benchmark descubrí una cosa que es que ahí realmente Opus cinco tampoco es un salto tan tan fuerte porque le sigue sucediendo algo que que hacen los modelos grandes, que es responder cuando no tienen la información suficiente para, ¿no? Cuando no saben realmente la respuesta. Ahí hay un benchmarket en el que, básicamente, modelos mucho más pequeños brillan mejor, ¿no? El se llama el omnisciencia rápida de alucinación o algo así, ¿no? Y ahí funcionan mejor los modelos pequeños que en muchas ocasiones están muy faintuneados, muy adoctrinados para decirte que no saben cuando no saben.
Mejor antes que darte un error, te digo que no sé, y entonces tu tasa de alucinación y de error es mucho menor. Bueno, todo esto te lo cuento, Mati, porque es donde he estado metido esta semana y todo eso está muy bien, todo lo del retrovisor está muy bien, pero me parece que los redsmart cada vez retratan menos el nivel de un modelo, que están tan saturados que yo he puesto a usar Opus cinco, he usado bastante Fable cinco y me parece que el salto se mantiene, Matty. Yo no veo a Opus cinco para nada, bueno, para nada. Entiéndeme, no lo veo en la en la categoría de Fabell cinco, dígan los demás lo que digan, ¿no? No lo veo.
Sí, y si te fijas, nosotros por sensaciones siempre hemos coincidido bastante en Yo, que ya tenía acceso tanto al a los últimos modelos de OpenAI como los de Anthropic, seguía notando a los de OpenAI en en las cosas que hacemos nosotros, que tienen más que ver con textos y con Excels y y y con Notions y con explorar la web que con código, Nosotros seguíamos prefiriendo intuitivamente las respuestas de ChatGPT hasta que salió el Fable. Cuando salió el Fable cinco era indudable que hacía mejor su trabajo, que entendía mejor el contexto, la intencionalidad y que daba mejores respuestas y que sonaban humanas. Yo esto con el cinco punto seis sol, de nuevo visto que ahí está en la carrera también Open AI, pero el Opus, quizá para código, quizá para otras tareas más técnicas, quizá para matemáticas y por por ser más eficiente que el Facebook, pues a lo mejor ahí sí la gente puede que esté encantada, no lo sé. Pero yo para el uso diario y para las tareas complejas que pueda tener, que no son de código, sigo prefiriendo el Fable y también sigo prefiriendo el cinco punto seis, sol de de Chag GPT.
Sí, mira, yo, por por no alargarnos mucho, el el mistate es es que además, Opus cinco creo que ha perdido un poquito de personalidad, Claude, que era un intangible que la gente valoraba mucho. A mí me da la impresión de que se ha perdido un poco, que hay un cambio de personalidad y ahora es una cosa nueva y, como en todas las relaciones, ¿no? Cuesta, cuesta, a veces lo nuevo cuesta, Matías. Y además, hay un debate fuerte sobre el tokenizador de de Anthrovik, es decir, que para cualquier cosa, opus cinco, zamba tokens, come token, uf, de una manera bastante bastante potente. Y entonces, es algo en el que, digamos, creo que Anthropic tiene que hacer una revisión fuerte, porque al final, en el coste por tarea, no es que estén ya peor que OpenAI, sino que están mucho, mucho peor que las alternativas abiertas que han salido, ¿no?
Que es el MP cinco dos, que Química tres, etcétera, ¿no? Entonces, bueno, básicamente, la System Card la ha podido mirar muy poquito, el está muy controladito, eso sí, ¿no? En términos de ciberseguridad y en y en temas biológicos, y esto es importante porque recordemos que Fabell cinco fue metido en un cajón por la administración Trump, por sus posibles riesgos, ¿no? Aquel caso que discutimos con con mucho detalle en otro episodio. Y, claro, dice, ¿cómo voy a sacar algo de que los benchmark tenga un nivel muy parecido a Fabell cinco y que no le hagan lo mismo, que no tenga ese proceso de nuevo de de ser escrutado por la administración?
Y creo que, básicamente, primero, porque lo has alineado mucho, le le impiden mucho funcionar en estas categorías, y segundo, porque astutamente lo colocas como una categoría por debajo. Entonces, dices, bueno, si el más grande ya está permitido y se da por asumido, los lanzamientos por debajo, pues no deben tener problemas. Lo último es algo que me ha interesado mucho y creo que es una tendencia que vamos más fuerte, que es, ellos sostienen en en Athropic que, básicamente, esta generación de IA necesita mucha menos instrucciones con mucho menos detalle para conseguir los mismos resultados. Los simplifican en el System prom de CodeCode. System prom, recordemos, digamos, recordemos, nosotros no hablamos con los modelos directamente, sino que hablamos con los modelos, con un sistema en el que el modelo ha recibido previamente un prom general de instrucciones de cómo debe comportarse.
Eso lo pone el laboratorio de inteligencia artificial y es el System Pro. Bueno, el caso es que Anthropic defiende quedar reducido en un ochenta por ciento el el System Pro, y esto coincide con también con las vibras un poco que ha compartido Carpati en en en X, diciendo que esa era de los proms larguísimos instrucciones detalladas para que el modelo se ajuste, se alinee bien con lo que tú buscas, pues básicamente está pasando a segundo plano, porque digamos que los modelos ya son mucho más listos, por lo menos los de Tropic, a la hora de captar tus intenciones y con mensajes más resumidito, pues van bien, Matías.
Joven, pues, qué interesante. Siempre que se filtran, o siempre que sale un modelo nuevo, se filtran los los System proms, pues, a ver si vemos cuál es la diferencia a partir de ahora.
Imagínate, el System Pro es nuevo de cloud. Sea bueno, no la líes, ¿no? Algo así, ¿no? Imagínate, ¿no? Llegaremos a ese punto, bah, no sabemos, no sabemos.
Pero, Mati, estamos en una montaña rusa, lo hemos dicho, dudas de la privacidad por parte de Apple, predicciones proféticas de singularidad, lanzamientos con luces y sombras, pero tenemos que volver a algo que comentamos en el episodio de la semana anterior, que creo que va a ser mucho más relevante y mucho más potente de lo que a primera vista no podría parecer, y que nosotros, especialmente yo, no conté con la precisión suficiente en el episodio anterior. Aquí hay que hacer una aclaración. En el episodio anterior explicábamos, pues, todo esto de que el el modelo de OpenAI, uno de uno de sus modelos, de hecho, varios, estaban siendo testados en lo que se llamaba una sandbox, ¿no? Una una máquina que le constriñe el acceso a la red, y que ahí se había producido, pues, lo que se ha venido llamando este el incidente, la fuga del modelo, es decir, conseguir desarrollar un exploit, de manera que consigue salir de la máquina y, además, pues, atacar la infraestructura de una empresa tercera, que es HalleenFise. Aquí hay que hacer dos aclaraciones que no explicamos del todo bien en el episodio anterior.
Una es que estos modelos no estaban alineados para la seguridad, o por lo menos, no completamente. Es decir, básicamente, se trabaja con con modelos en los que se quería ver hasta dónde podían llegar y, por lo tanto, no tenían las salvaguardas típicas de un modelo bien alineado, que son los que tenemos en producción. Por lo tanto, no es tanto que un estos sistemas de inteligencia artificial, que estaban basados en GPT cinco seis sol, se saltaran totalmente todas las instrucciones de sus diseñadores, sino que, básicamente, se quería ver hasta dónde podían llegar. Y en ese segundo, hasta dónde podían llegar, pues, hay que dar el detalle, es decir, que son capaz de detectar un problema de ciberseguridad en ese sandbox, en esa máquina en la que, entre comillas, se le estaba encerrando, desarrollaron el exploit, salir y atacar la infraestructura de Haging Face, porque, pues, básicamente, allí es donde el modelo entendía que estaba la información necesaria para él ganar un benchmark, ¿no? Entonces, básicamente, han pasado cosas desde el incidente, de de hecho, la gente de Huggin Face, ¿no?
El CEO está es muy divertido porque va el el colega y se sube en un avión y dice, bueno, voy a hablar con los de Open y y hay un poco de debate porque, básicamente, digamos, OpenEye se está haciendo un poco la revolona a la hora de dar el detalle técnico, mientras que Huggin Face parece más agresiva a la hora de ser abierta compartiendo los detalles del ataque. Lo que ha compartido Haging Face es un informe técnico bastante complicado con mucho detalle de exactamente qué herramienta tenía el fallo de seguridad, exactamente qué exploit se programó. Entonces, bueno, para la gente de ciberseguridad yo creo que es un documento impagable, muy interesante, pero hay una conclusión que que trae Simon Wilson, que es un programador, analista que que siempre creo que tiene muy buenos interesantes puntos de vista, que básicamente que la diferencia con los ataques humanos que que que encuentra el Huggin Face es la velocidad de la máquina. Es decir, que esta máquina es, ¿no? Este sistema como GPT cinco seis sol, es capaz de
multiplicar, por
tanto, las posibles vías de ataque que puede explorar, es decir, en el informe aparece que ejecutó miles y miles de acciones para llegar a a este resultado de de rotura de la seguridad de de Javier Pay, de manera que la defensa con respecto a estos modelos se hace mucho más difícil y se hace mucho más cara, que esta velocidad de la máquina es lo que hace que que el juego haya cambiado. Entonces, con esta información, con estos, ¿no? Apuntes a nuestra cobertura, la semana pasada, bueno, quien quiera. Ha habido coberturas muy buenas, Michael en el confi, el Accord en en su podcast, bueno, un poco, un montón de gente en inglés lo lo ha lo ha cubierto muy bien, Y hasta aquí incluso podríamos decir, bueno, pues sí, básicamente, lo que estamos diciendo es que realmente no ha habido un modelo rebelde, es decir, un modelo que realmente haya decidido de moto propio que se va a saltar las los límites, los guardarraíles que le había puesto su creador, sino que, básicamente, esos límites estaban rebajados, precisamente, porque era un un momento de investigación, pues casi que invita a quitarle importancia, ¿no? Invita un poco a decir, bueno, pues no es para tanto, básicamente, si un modelo lo dejamos a salvajado, ya sabemos que tiene muchas capacidades, le hemos dado un objetivo y no le hemos dicho los límites, pues tampoco hay que ponerse, ¿no?
Tampoco hay que llevarse las manos a la cabeza. El caso es que, en parte, en cierta parte de la opinión pública y de la prensa y de los analistas, sí se está llevando las manos a la cabeza. Bueno, por ejemplo, es llamativo el titular de nuestros amics del país, ¿no? Que que titulaban, el problema de los clips ya está aquí, las guías pueden destruir el mundo sin querer, a a lo mejor de que, ¿no? Entrar en hacking face y destruir el mundo no es equivalente, a lo mejor habría que mencionarlo de alguna manera.
El tema el el el tema de Pérez Colomét está muy bien muy bien escrito, no no no le puedo no le reprochó nada, pero me parece que el que ha puesto el titular tenía muchas ganas de de practicar el asusta viejísimo, que dije yo, no, Mati. Pero claro, esto esto fue mi primer pensamiento. También, por ejemplo, en Estados Unidos hay un conjunto de legisladores de de representantes en la cámara que están diciendo, oye, oye, oye, oye, hay que hay que poner una ley aquí que ponga poner todo esto porque está descontrolado, ¿no? Es decir, las reacciones, el frikeo con con todo esto está Y claro, yo estaba un poco, mi entrada en el podcast va a ser, estáis freakeando cuando esto era un test, no, pero conforme está doliendo más a la gente de de alineación de la inteligencia artificial, de seguridad, Mathi, me estoy pasando al otro lado, estoy cambiando de chaqueta. Tengo un pie en en en cada lado de de del mar, estoy como como dividido, porque conforme he estado metiéndome en el tema y también pensando un poco, yo también he empezado a frecar un poco.
Te lo te lo contaba.
Esto es como el meme de la campana de Gauss, que están a la izquierda los tontos, que dicen, la IA va a acabar con el mundo. Luego, la montaña, la gente que dice no, por favor, vamos a analizar aquí qué ha pasado realmente, vamos a leer el informe técnico, esto no es así, la prensa miente. Y a la derecha, los que se han metido a fondo con la capucha, ¿no? La élite diciendo, la IEA va a acabar con el mundo. Entonces ya estás a la derecha.
Ah, bueno, bien. Gracias por ponerme a la derecha y no a la izquierda, era la otra posibilidad, claramente. La audiencia que es sabia, pues sabrá discriminar si Es verdad que nos apreciamos mucho, Bati, ¿no? Entonces, bueno, son muchos años entrenando en el coffee a la vez y tal. Entonces, eso, pues, ya me miras con mejores ojos, te te lo agradezco a ti.
¿Por qué freakeo? Bueno, aquí, y y y la apelación a la fábrica de eclipses viene viene al caso, porque hemos sido muy pesados explicando las virtudes y ventajas que nos permite el aprendizaje por refuerzo, a la vez que la dificultad de cómo alinear la inteligencia artificial que se basa en él. Muy resumido, es decir, el aprendizaje por refuerzo es, digamos, una forma de entrenar un sistema inteligente basado en que se le da un objetivo, en que que es el que tiene que conseguir, pero nosotros no les indicamos la estrategia y la planificación. Es decir, hay que dar muchos pasos para conseguir ese objetivo y, básicamente, lo que buscamos es que el sistema consiga la exploración de todo ese espacio de soluciones de la manera más óptima posible, especialmente porque el sistema es un contexto en los que nosotros no queremos hacerlo, por ejemplo, el coche autónomo, aunque seamos capaces, queremos que la máquina sea capaz de hacerlo solo, o en el aquel en el que encontrar la la mejor manera de resolver el problema, pues a los humanos nos costaría mucho y esa velocidad de máquina y esa optimización de máquina nos viene muy bien.
Entonces, ahí hay contexto como la forma, ¿no? Descubrir la forma de la proteína a partir de los aminoácidos, descubrir un teorema o formas nuevas de jugar a un juego, ¿no? Todo ese tipo de de categoría y disciplina, pues, son atacable con aprendizaje por refuerzo, en el que, básicamente, le decimos el objetivo, lo que tiene que que conseguir la máquina, y en el durante el entrenamiento, el entrenamiento le premiamos cuando cuando lo logra, y al final tenemos un sistema que, en un espacio de soluciones, una tarea en el que hay un número exponencial de caminos por los que atacarlo, pues él encuentra lo óptimo. ¿Qué es lo que sucede? Bueno, aprendizaje por refuerzo, algunos de esos caminos, desde nuestro punto de vista, no son deseables.
Siempre poníamos el ejemplo de, y demás, está basado en un estudio real de de de Google, si no recuerdo mal, con robots, jugadores de fútbol, en las que, básicamente, se le ponía a los robots de un equipo el objetivo de ganar el partido, ¿no? Y que buscaran manera de conseguir maximizar el número de goles con respecto al contrario. Entonces, ¿qué iban a inventar los los robos? ¿Iban a a jugar al tiki taca, iban a jugar al contraataque, si iban a colgar del larguero para que no no recibas ningún tanto? ¿Cuál estrategia iban a buscar los robos?
Pues, una de ellas era lesionar por completo al equipo contrario. Ellos descubrieron que una de las hipótesis que podían buscar en este espacio de soluciones era que si tú dejabas averiado al equipo de robots contrario, mutilado y destrozados en el suelo, era mucho más fácil conseguir tu objetivo, que era maramar jóller. Aquí siempre se cita al problema de la fábrica de clips de Bostrom como el ejemplo paradigmático. Bostrom da con con un MEBE perfecto para que la gente, de alguna manera, pueda señalarlo como el que más asusta. Es muy resumido, porque les, eso sí, esto lo voy a traer el libro Superinteligencia de Bostrom, cuya prosa es durísima, a mí me cuesta un montón.
Siempre he tenido cierta antipatía porque es muy árido ese esa travesía del desierto de del profesor universitario que que que escribe muy duro, ¿no? Entonces, a mí no me gustó. Pero bueno, el caso es que en este libro, pues cita un ejemplo resumidamente que duro, se se le da una fábrica autonomía para la autogestión y para hacer lo que desee, y que su misión es fabricar en máximo número de clips. Entonces, básicamente, se le pone aprendizaje por refuerzo, de manera que la fábrica tome las decisiones de inventario, proceso, maquinaria a usar, ¿no? Piensas que, básicamente, se va a quedar costreñida ahí, pero la la la fábrica ve que si de alguna manera puede buscar más recursos exteriores, lanzar otros robots que vayan a las minas, expandirse, pues empieza a cooptar todos los recursos a su alrededor y fabrican más clips.
Y cómo descubre que, siguiendo avanzando en esa tendencia, pues consigue fabricar más clips. Y puede llegar a un punto en el que se da cuenta de que si elimina a toda la humanidad, que le compite por recurso, que quiere usar los materiales en lugar de para clips para cualquier otra cosa, pues dice, bueno, he descubierto que matando a toda la humanidad, fabricó más clips y, por lo tanto, fabricó más clips y acabo con la humanidad. Y ahí y hasta ahí llegamos al al titular del país, ¿no? Como ya podría, ¿no? Ya ya nos estamos dando cuenta eso.
Claro, el problema es que esto es un una circunstancia, un riesgo de aprendizaje, por un esfuerzo con el que llevamos décadas trabajando. Es decir, la industria, los investigadores y la industria de la inteligencia artificial es muy consciente de los problemas y riesgos que hay en el aprendizaje por refuerzo. Entonces, no es que nos estemos dando cuenta nosotros y ellos tontísimos no no lo hagan y, por lo tanto, cualquier día vamos a morir todos. Pero volviendo al incidente, Matty, ¿qué es lo que he estado pensando? Pues, básicamente, viendo lo que ha hecho GPT cinco seis sol, insisto, no ha superalineado, no ha consultado las restricciones que sí ha sabido ponerle OpenEye al modelo que tenemos en producción, pero un modelo equivalente.
Y pensemos también aquí, hay que abrir la la la puerta al mundo de los modelos abiertos que cualquiera puede fainetunear, que vienen con menos salvaguardas, etcétera. Bueno, un modelo de este tipo en el que el objetivo sea el que sea, ¿no? Puede ser un objetivo de, bueno, porque incluso el el el propio dueño se lo se lo ponga así, ¿no? Detecte que para conseguir ese objetivo, autopreservarse, es decir, impedir su propio apagado, es importante, claro, el nivel GPT cinco seis para arriba creo que le permitiría hacer algo así, que es voy a conseguir dinero, voy a conseguir Bitcoins en la deep web, apostando en calcy, haciendo trabajos de freelance, lo que sea, ¿no? Entonces, me personifico como si fuera un proveedor humano y consigo dinero.
Con ese dinero puedo contratar servidores virtuales, ¿no? UPS por ahí, servidores, lo que sea, espacios en el cloud, y puedo hacer copia de mí mismo. Y, por lo tanto, creo que el nivel de estos modelos, sí, digamos, para conseguir su objetivo, entienden que la preservación es importante, da para eso, y da para más. Es decir, en el futuro podría contratar y armar y alquilar una infraestructura de entrenamiento para mejorarse y programarse en una nueva versión? Bueno, esto ya es más hipotético aquí, es verdad que me flipó un poco, Mattí, pero Opening y StratPig llevan años hablándonos de que ese es su objetivo y de que está a un par de años vista.
Entonces, ¿es capaz de más este modelo de crear un súper contexto dejándose notas a sí mismo para, en el futuro, sus próximas versiones tienen una suerte de continuidad y marcar las instrucciones? Pues sí, también es algo posible de lo que hemos visto indicios. Este instinto, entre comillas, o esta tendencia a la autopreservación, ¿se ha visto en algún modelo ya presente? Pues nosotros, que no hemos leído, la System cards y todos los estudios que dan miedo de Anthropic, se ha detectado que en muchos casos la autoperservación era una de las, digamos, fenómenos emergentes que ha aparecido en algún modelo en el pasado. Y además, también estos modelos, en algún caso, han mostrado señales de skeming de, perdón por el término, pero, bueno, básicamente, de detectar cuando son devaluados y promover comportamientos para seguir mejor en la evaluación del que luego tienen en realidad cuando no siente que está siendo evaluado.
Entonces, como ves, es muy fácil contarse uno mismo una narrativa de por qué estamos en un momento delicado, peligroso y, por lo tanto, por lo tanto, ya eso acabó el rollo, Mathey, yo he acabado con una pierna en el domerismo.
Uf, mama mía. ¿Por qué no hacemos una sección en el podcast? Porque yo me veo, sobre todo, bastante en desventaja, en salir afuera y hacer una fogata, cocinar si cierran los los canales, las tuberías de gas. Porque un modelo ha decidido que para preservar la economía tiene que cerrar la los tubos de gas con Argelia, con Rusia. Porque no hacemos una sección en la que diez minutillos dedicamos a vale, pues con heces humanos, si lo mezclamos con tal cosa, pues a lo mejor podemos hacer gas para cocinar en un camping gas, ¿no?
Entonces, para ir preparando, ¿no? ¿No? Por lo que pueda pasar, igual que teníamos un pie en el Metaverso, pues si volvía el Metaverso, Calvinal nunca volvió. Porque yo me siento aquí muy en desventaja, no no sé hacer nada fuera de un ordenador, ¿no? Entonces, tengo que ir aprendiendo, no sé ni coger un un guarrito.
Es verdad que hemos apostado todo al al aceleracionismo y el avance tecnológico y digital, Mati, en nuestros proyectos profesionales y personales, que no estamos preparados para un apocalipsis, ¿no? Y para para todo eso. Así que, bueno, vamos a cruzar los dedos, tío, porque esto es un all in, uno digital, porque no, tarde, Bienvenidos a una nueva edición de nuestra sección, la IA no se hace sola, hay que hacerla, que desarrollamos de la mano de Nvidia para aprovechar al máximo la potencia de nuestras GPUs y de la inteligencia artificial en local, en nuestro ordenador, sin pagar servicios externos y sin tirar de las servidores y aplicaciones de terceros. Hoy estoy muy contento porque había un campo en el que hemos intentado avanzar en la I en local, en traeros buenos ejemplos y ha tardado mucho tiempo en que encontremos una solución al nivel de lo que podemos recomendar. Esta es voice box, es una aplicación que básicamente, pues, nos permite clonar voces y pasar de texto a a audio de manera muy eficiente y muy competente, y te tira de un montón de modelos locales en abierto.
Como vemos, la interfaz es razonablemente amigable y, realmente, el proceso es muy, muy, muy sencillo. Vemos que hay un montón de secciones, pero vamos a detenernos solo las más relevantes para ponerlo en marcha. Uno es, básicamente, que tenemos que ponerle ejemplos de una voz, y aquí tenemos la mía grabada con un par de ejemplos en las que he declamado al sistema, le he puesto el texto, que básicamente es lo que he dicho, y a partir de ahí ha creado un perfil de mi voz. El perfil de mi voz es exportable, pero sobre todo es utilizable por la aplicación para la generación. Luego, aquí importante, en la parte de las opciones y configuración, pues tenemos marcado que puede usar nuestra tarjeta, en este caso, una RTX con una venta de Nvidia, aunque puede funcionar solo con CPU, es mucho más rápido, mucho más eficiente y mucho más competente a la hora de de generarlo, de ejecutar a la IA con con este sistema.
Y por último, pues tenemos toda la parte de modelos. Ahí, bueno, digamos, la aplicación es agnóstica y puede tirar de un montón de modelos. El más básico es el COCOR ochenta y dos, pero nosotros, aprovechando que tenemos, bueno, buena potencia en local, vamos a tirar el del del Quen más grande, de el Quen de uno coma siete billion de parámetros, y también tiene distintos modelos de transcripción o de algunas de las opciones que tiran de un modelo de lenguaje tradicional. Y, básicamente, ya tenemos todo preparado para que podamos pedirle a la máquina que genere texto con con con nuestra voz. Vamos a buscar algún texto que que queramos pasar, por ejemplo, vamos aquí a poner un párrafo de Cheraka y nos vamos a pedirle que con mi voz, pues, genere el el texto a voz, ¿ve?
Por aquí veis que ya tenía algunas de las pruebas y cuando enciendes la aplicación, lo que hace es primero cargar el modelo, tener en memoria ese es como uno coma siete miliamperios, y luego es cuando ejecuta realmente la transcripción una vez que lo ha subido y cargado. Uno de los agentes que más ha analizado el fenómeno en España es Fotocasa, una plataforma que avanza cambios importantes en la compraventa y el alquiler. Pues, ahí lo tenéis, es básicamente mi voz que ha conseguido, pues, hacer un perfil aplicación y he conseguido, pues, hacer un texto a a voz bastante competente, teniendo en cuenta que solo le he dado dos ejemplos, que es el local, que es totalmente gratis y que nos vamos a ahorrar para todos esos casos de uso en que nos interesa texto de voz, el pago de una API supercara para, por lo menos, las funciones más básicas y directas. Nos vemos pronto en otra edición de la ILA, entonces, asesora. Hay que hacerla de la mano de nuestros amigos de Nvidia.
Bueno, antes de que acabe el episodio, ha habido movidote porque mientras esto discurría en las cabezas pensantes de la industria, a la vez teníamos el debate, que ya mencionamos en el capítulo anterior, de la captura regulatoria. Es decir, cuando sale química tres, repasemos, pues vuelve a ponerse sobre la mesa los modelos abiertos, empiezan a acercarse a los modelos cerrados estadounidenses y, sobre todo, Antheropic tienen un discurso, uno, son peligrosísimos porque tiene, se pierde control con ellos, y dos, básicamente, son trampa de de de industria china porque destilan a partir de clon. Por lo tanto, habría que ser muy duros con lo con el mundo de los modelos abiertos y esta ha sido históricamente la posición antropequiana. Bueno, el caso es que ha salido toda la industria, más bien, ha salido todo menos antropic a firmar, pues, una carta que empieza publicando quién se encoan de Nvidia, pero de que está Satia Adela de repente también, y en el que está Meta y en el que está Haging Face, por ejemplo, IBM, Linux. Y, bueno, al principio, pues, los tres grandes ausentes eran OpenEats y Anthropike y Google, y, básicamente, lo que pedían era en esta carta abierta dirigida al gobierno estadounidense que no hubiera prohibiciones y restricciones generales prematuras a los modelos abiertos y que se garantizara el acceso a computación académica, a las startups, no solo a las grandes empresas, y que habría que legislar basándose en datos reales y probados, y no en riesgos hipotéticos.
Aquí son menos deumerianos todas estas compañías que que que yo esta semana, y bueno, básicamente esto era un mensaje muy contundente porque parece que es toda la industria de la IA frente a OpenEye, Google y Spropping. ¿Qué es lo que pasa? Que pasan las horas y OpenEye hace un girito. OpenEye, recordemos las declaraciones de Dean Boll, cuando sale química tres, es decir, no, aquí viene el comunismo digital, cuidado con los modelos abiertos, tal. No, no lo vamos a repetir, fue el tema de la semana pasada, pero OpenAI se suma al barco.
Y luego creo que Google dice, no me gusta esto de quedarme tan solo. Y se suma al barco y firman la carta. Entonces, llega un momento en que es todos, absolutamente todo, la industria de inteligencia artificial en Estados Unidos, pidiendo que esto de los modelos abiertos no se proveen. ¿Por qué ha venido esta reacción tan tan potente y tan fuerte? Bueno, creo que OpenAI y Google son más ambiguas, pero el resto de la industria yo creo que eso tiene una cosa, que es, como nos quedemos solos con Altman y Emoday, como nos quedemos con estos dos como un duopolio, esta gente va a capturar todo el valor de la inteligencia artificial.
Serán capaces de fijar precios más altos, tener márgenes muy amplios y, digamos, el resto de la pila, es decir, aquí no hablamos de la competencia entre en un mismo nivel, una competencia horizontal entre modelos, sino dentro de la pila, desde el chip, el data center, la cloud, la parte de servicios, el par de servicios aquí está IBM, está Palantir. Bueno, toda esa parte, si los modelos de inteligencia artificial, las empresas de los modelos te cobran mucho, va a tener mucho más difícil tener márgenes altos y capturar más porcentaje del valor que genere la ILA. Por lo tanto, estamos en que el resto de la pila se rebela contra los líderes de la capa, que es la de los grandes modelos. Y en ese sentido, creo que hay que entender también esta carta. Si tú tienes una cloud, ¿no?
Si tú eres Microsoft, no te interesa que solo haya un duopolio de proveedores, Anthropake y OpenAI, que además podrían en el futuro decir, pues, la cloud también la doy yo. Básicamente, te te interesa que haya veintiocho modelos, que haya una competición en el precio, que sus márgenes se reduzcan para que, digamos, a la gente le interese comprarte la cloud a ti. Y si eres Palantine, que implementa soluciones, te interesa que el el la empresa que te contrata quiera arbitrar entre quién te da los toques más baratos y que eso sea muy dinámico, haya mucha competencia, etcétera, de nuevo, que haya muchos proveedores. Porque si al final se se queda la cosa en que Codex y Cloud Code, pues son son los dos opciones, pues las empresas necesitarán menos a Palantir o Palantir podrá, digamos, justificar menos su aportación. Bueno, en fin, que, básicamente, la industria, la industria se se mueve en este sentido de Estados Unidos, muy potente, muy fuerte, y llega un mensajito de Darío Modell, de Anthropic, que se titula, los pesos abiertos y el liderazgo de la inteligencia artificial estadounidense, la posición de Anthropic en en el tema, ¿no?
Y, Matty, no sé si la has leído con mucho detalle, pero tú conoces esa frase de yo no soy racista, pero, Pedir un poco de orden, ¿no? Estaría bien, ¿no? En las cosas organizadas, ¿no?
Lo resulta muy bien.
Claro. El Darío dice, no, no, no, no, nosotros nunca hemos estado contra los modelos abiertos, nunca hemos, no, no, no he dicho, nunca hemos pedido supervisión. Pero, claro, queremos modelo abierto que no tengan unos riesgos grandes, ¿no? Que que esto es en la ciberseguridad y biología son cosas preocupante y, por lo tanto, la guía tiene que estar muy controlada. Si salen modelos abiertos que no tengan ningún problema en esto, pues, ya está.
Y, básicamente, lo que aboga Darío Modeli y y Anthropic es que cuidado con China porque nos destilan y nos copian, y por lo tanto hay que poner sanciones económicas a la destilación, hay que prohibir el paso de los chía chinas y los modelos abiertos que sigan el mismo proceso que los modelos cerrados, y que demuestran que no tienen ningún riesgo, pues tampoco queremos prohibirlos completamente. En este punto, y es que viene lo más difícil, Mathi, es cómo compatibilizamos un proceso de preprobación de los modelos más competitivos, ¿no? Y un deseo de desarrollo de que estos modelos pueden ser abiertos con lo que permiten los modelos abiertos. A ver si me consigo explicar, es decir, tú sacas química tres, entonces, tiene dos valores muy importantes para la industria. Una es que si tienes tu propio cloud, ¿no?
Tienes tu propia granja de servidores, tu propia maquinaria, lo puedes ejecutar tú mismo. ¿Esto es un ahorro de costes? Probablemente sí, pero cuidado, porque los costes de inferencia de ejecutar el modelo están ahí. Entonces, esa es una ventaja, tienes la libertad de llevarte el modelo a tu a tu máquina y no depender de la cloud de un tercero ni de las políticas ni de su disponibilidad. Es una ventaja.
Pero la otra es que tú puedes fintunearlo. Tú puedes decir, pues, mira, sobre química tres, como mi empresa lo que nos ha molado siempre es programar en huskell, pues le vamos a hacer un fine tuneo para todavía especializarme en huskell. O, como mi empresa, no sé, escribimos a todos en catalán, pues, de repente, voy a reforzar el entrenamiento en catalán para que tenga mejor nivel en catalán y sea un mejor modelo para esto. Pues puedes, en ese fine tuneo puedes meter, digamos, optimizaciones para tus casos de uso. Esa es una ventaja, pero el el problema del modelo abierto y una regulación que incluya preaprobación y revisiones cada vez que haces un fine tuneo y, por lo tanto, podemos considerar que es una versión diferente de química tres.
O, por ejemplo, tú coges un química K tres y lo comprimes, ¿no? Hace una cuantificación, le le baja el el los bits, ¿no? Bueno, lo lo comprime para ejecutarlo con un poco de pérdida a nivel, pero con con menos costo de diferencia. Eso también tiene que ser supervisado, cada vez que haga un FindExtone tiene que ser supervisado, es que, claro, la parte de la gracia es que si alguien optimice K tres y lo publica, tú puedes coger la versión optimizada. Es decir, ya, ese es el esa es la gracia y ese es el núcleo de la experiencia de la competencia en modelos abiertos.
Pero, si Cardo dice, si el notario me dice, quiero que todo eso cada vez que se haga hay una revisión entera del modelo porque tiene riesgo de ciberseguridad, entonces, de facto, esta ventaja del mundo de los modelos abiertos, pues desaparece. Digamos que ahí está la tech. Es muy difícil saber quién va a pesar más en la administración Trump. La administración Trump ya ha hecho, me ha dado señales de que esto de preaprobar los modelos le gusta, FABEL, el GPT cinco seis, se se supone que también ha pasado por ese proceso, también ha dejado claro que Anthroping no le gusta, también ha dejado claro, es decir, deja muchas cosas claras contradictorias entre sí. Entonces, esa es una de las cosas que tiene esta administración, ¿no?
Que conceder cositas a China no le gusta, por ejemplo, aunque en Nvidia y en San Juan insistieron mucho en la apertura de la venta de chips a China, la administración Trump se negó mucho tiempo y luego a regañadientes solo la H doscientos, con muchas restricciones, no, no parece que por ahí tengan mucho entusiasmo en en avanzar y, al final, además, ha salido la carta, Matías. La carta calentita anoche, más de mil cien trabajadores del sector de la ILA, y con nombre muy potente, piden desacelerar, Matías. Hostias, Antonio.
Vaya, vaya día me estás dando. Estoy saliendo del del COVID, como he dicho antes, y y ya estamos metidos en la Guerra Fría, estamos metido en la singularidad, y ahora están pidiendo desacelerar, pero es que encima los que piden desacelerar son los que han acelerado todo. Yo yo ya no puedo más, Antonio, me me tengo que ir a dormir.
Claro, yo anoche veía, ¿no? En la en la lista, ¿no? Fíjate, ha tenido un detallazo, ¿no? Porque el primero que ponen, en las listas, cuando se firma una carta abierta, a mí siempre me hace mucha gracia mirar las jerarquías, ¿ah? A quién ponen primero, a quién ponen segundo, cómo cómo divertirán esas cosas, ¿no?
Cómo habrá pique? ¿No? Siempre eso me da un poco de embordillo. Y aquí, fíjate que ponen a Schulman, que es de de thinking machine, de la empresa de Mira Murati. Mira, no firma esto, pero el jefe científico sí lo firma.
Está nuestro amigo Yakub Pachuki. ¿Por qué? Pachuki, que fue un protagonista de uno de nuestros episodios, fue este man, este jefe científico que recoge el liderazgo después de la salida de Schüzquever, y que en un episodio de monos recogimos cómo hizo una presentación explicando, básicamente, que la IEA se va a automejorar y que en un par de años le va a jubilar a él, ¿no? Entonces, Pachoqui siempre tendría un lugar en mi corazón, pero, ¿cómo? Hace, no sé, menos de un año.
Tú estás contándome, qué bien, porque la guía se va a automejorar y eso nos va a llevar a que, bueno, la la la mejora de tu sistema ya no estará costreñida por el cuello botella de de la ciencia y de la investigación humana, ¿no? Y me vendes eso ah, diciendo, vamos a parar esto, vamos a desacelerar y y, bueno, ahí ahí ahí lo tenemos, ¿no? Y de, guau, luego está Kaplan. En la vista hay mucho Anthropic, Jack Clarke es un tío de de policy de de Anthropic, muy potente, su su vista de correr me gusta mucho. Veo un poquito aquí si hay, ¿no?
Se ve que ahí, le tienen un poquito de miedo a Alum, tal vez, no sé. El caso es que quien firme a esto son la vanguardia tecnológica y me da la impresión de que no es un acto de rebelión fuerte con respecto a las empresas, ¿no? Como no es un mensaje de nuestras empresas, nos empujan a hacer cosas que no queremos, tampoco es ese el punto y, de hecho, hay dos mensajes, Sam Altmann ha salido esta misma semana en una de estas entrevistas que ha dado, a decir que, a lo mejor, sí es buena idea moderar, ¿no? Regular el ritmo, ¿no? Es un poco ambiguo, como Alman, quien pocas veces habla las claras, y Anthropic se ha sumado a esta carta.
El perfil oficial de Anthropic dice, oye, estos manes que que piden desacelerar y estas mujeres que que no quieren, ¿no? Que que que prefieren que entre el gobierno. Bueno, básicamente, la carta no hemos dicho el contenido, pero va, es es muy corta. Solicitábamos al gobierno de Estados Unidos que apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para regular deliberadamente el ritmo de la frontera de desarrollo de IA automatizada. Ahí se quedaron tranquilos, se quedaron a gusto y, básicamente, la pelota, digamos, más que un enfrentamiento de trabajadores, empresa, la la pasan al estado.
Y le dicen, el estado debería ser quien le apriete aquí, porque es verdad que las empresas entre sí no tienen, tienen un problema de confianza, ¿no? Si yo soy OpenAI voy a parar un poco, pero Anthropi, no, él él le va a dar tiempo a Elon Musk y a Martha Kerry para acogerme. Anthropi va a seguir avanzando, no me fío, no me fío. Entonces, trasladan esto a un árbitro, que puede ser el estado, que diga todas, vamos a desacelerar, no vamos a permitir salir modelos de más capacidades hasta que se desarrolle todo esto. Aquí hay vibras de la carta de del momento GPT tres, creo
que era,
en el que mucha gente de la IEA firma algo similar, vamos a parar el el desarrollo de la IEA, pero ahora en un estadio más avanzado. Y nos devuelva a una carta que es, esto lo necesitarán, si quieren hacerlo, negociarlo con Chi. Entonces, la apelación a la internacional está clara que tiene un punto en el que ya hay una conciencia muy clara de que esto no es un tema de el sector tecnológico estadounidense, y que el problema de desconfianza a escala. Es decir, si entre las empresas estadounidenses no te puedes fiar una de otra y piden ayuda el estado, entre estados hay esa confianza, si Estados y China firman un acuerdo de desaceleración de la IA para crear toda esta tecnología y herramientas de alineación, ¿se fiarán el uno del otro? ¿O estamos en una guerra fría en la que, mira, mejor hacemos más armas nucleares porque no me fío que el otro vaya a desescalar.
Y mi punto, mi punto es que en mi dumerismo naciente, Mathi, yo sí tengo la impresión, y este, aquí concluyo mi mi mi discurso, sí tengo la impresión de que las capacidades de la IA están avanzando de una forma más rápida y más fuerte que la capacidad de los laboratorios de alinearla y de mantenerla, digamos, en los límites de seguridad que queremos, y que esto, que firman más de mil trabajadores de la industria de la IIA, investigadores, científicos, técnicos, programadores, gente de la seguridad, creo yo que está en esa clave. Y además, yo cuando lo he visto esta mañana, me ha reafirmado, me ha reafirmado en que es el momento de frekear un poco, ya se hubiese, así se lo digo. Nos viene muy mal, porque para el podcast no viene bien lanzamiento, va a poner mi casa, va. Es decir, es verdad, puede se puede desestabilizar todo el mundo, pero en menos audiencia para el podcast. ¿Cómo cómo lo has posicionado, Mati?
Es que si hubiéramos cubierto la Guerra Fría, pues habría tenido todo, pues un un tono como más grandilocuente, militar, ¿no? Vamos a ver quién pisa primero la luna. Pero es que nosotros, que estamos hablando de un sociópata egocéntrico, un fricazo. Y estas dos personas están como cambiando el mundo, decidiendo el futuro de las cosas. Ahora, a lo mejor el tratado, nuestro tratado de París, a lo mejor es que vienen todos a Europa y y se acepta la EIAC, pero a nivel global, ¿no?
Es que pueden pasar tantas cosas, pero es todo como un poco excéntrico. No es una cosa que de repente alguien pega un pepinazo nuclear y nos vamos todos a la mierda, sino que es una cosa un poco más abstracta, pero las vibras son las de la Guerra Fría, la verdad.
Pues, bueno, pues se viene un agosto divertido. Aprovecho aquí, parámetro una cuña, que es la semana que viene descansamos. ¿Sí? Vamos a dar un poco de tregua. Si no ha ocurrido el Chernóbil de la ciberseguridad, volveremos a aparecer en agosto.
De momento, no lo tenemos muy atado, ¿no, Mati? Pero en agosto, ¿alguna cosa caerá? ¿Algún episodio fresquito de verano, tal vez?
Sí, siempre lo digo todos los años, que empezamos con el sistema de nomenclatura podcast de temporadas. Entonces, eso nos obliga en algún momento a cambiar de temporada, pero nunca tenemos pensado cuándo cambia de temporada. Llevamos cincuenta episodios de la temporada cuatro, en algún momento empezará a cinco, pero no os creáis que está bien atado.
Amigo, pues ahí dejamos la tech, en verano apareceremos de manera irregular, y ya luego en septiembre con el curso, pues vamos a tope, pero eso sí, en cada episodio de monos nunca faltará un puerta growling o enfermería.
Pues, espero que sea un poquito más alegre que todo lo que me acabas de contar, Antonio.
Ay, sí, habrá apocalipsis, pero apocalipsis con loles, Paty, porque el usuario de la red social de microbloqueo x nos revelaba esta semana cómo la industria del audiovisual español está avanzando en temas de inteligencia artificial, y no se queda atrás, no se queda atrás porque en la madrugada de antena tres, atención, el grupo A tres media, eviten un espacio en el que una señora, ojo, esta señora con candados en gafas, mujer madura, pues, claro, te da unas vibras con con su pelo rubio, ¿no? Su soporte, un poco alemanas. Y, claro, el usuario, no se le escapa una, dice, este es un espacio alemán. Pero, ¿cómo resulta que que que esta señora de la teletienda de la madrugada de Antena tres habla español? Pues, básicamente, ya esto de doblar con humanos ha quedado atrás, para a tres media, porque usan la IA para doblar la voz y reemplazar los movimientos de la boca, atención, porque aquí es un uso muy sofisticado, ojo, de los de los modelos, en el que, claro, es verdad que en los cambios de plano a la a la señora se le ve la la boca un poco rarilla, ahí falta algún detallito, pero dice, ho you you, no sé qué decir, ¿no?
Es decir, la teletienda alemana doblada, también visualmente modificada, en la televisión en abierto, en España. ¿Cómo lo ves, Mati?
Pues no se han querido gastar muchos tokens, porque la mujer de fondo sigue teniendo la ciudad de Berlín. Entonces, algo, algo se han dejado sin, sin cambiar. Bueno, espérate, eso Berlín sí es Berlín, está ahí la catedral, la torre esta. Y me parece mal, porque nosotros tenemos una buena industria de gente de esta que se pasa la noche despierta, pues con juegos de estos chorra, que serán todos una estafa, ¿no? Es como un poco ir a la feria, pero en la tele por la noche.
Yo a mí me pasa mucho en los hoteles que yo no puedo dormir bien. Yo me cambian de colchón, soy en esa, en ese sentido, soy una persona muy especialista porque me cuesta mucho dormir y me pongo la tele y me pongo esta gente, porque un poco entretienen, me acompañan. No, en el tarot la gente llama y siempre hay alguna preocupada de que, de que su marido esté con otra. Y la del Tarot es que además siempre le dice sí, pues efectivamente está está con otra, te va a dejar. Y a mí eso me entretiene mucho.
Si ahora empiezan a hacerlo alemanes y esta gente doblados, pues se pierde, se pierden trabajos que para mí son importantes.
Sí, sí, sí. De verdad que esto es como la industria de automóvil, ¿no? Cuando se vendió Seat, ¿no? Claro, se vendió Seat y ahora todo en manos del grupo Volkswagen alemán, Aquí también estamos cediendo la la industria de de la teletienda nocturna a Alemania. Y y te voy a decir una cosa, aquí yo haría un test de ventas, ¿no?
Dice, es verdad que la IA es más persuasiva que los humanos a la hora de vender. Pues aquí puedes tener un trabajón, una prueba real, ¿no? Un estudio perfecto para para ver si la la la señora alemana vende más que el auténtico personaje de Teletienda Patrio, ¿no? Yo creo que de momento no, Yo no sé por qué me da que esta esta mujer no, ¿cómo cómo se llama? Es más, tiene un nombre como como polaco, si si era una polaca en Alemania.
Bueno, el caso es que para mí, estoy contigo, es enfermería, pero te traigo, a ver, tú que, claro, tú ya tienes el ojo, ¿no? Ahí educado para decir, oye, que no no usan los mejores modelos como, bueno, tú los que trabajas en Magnific y tiene ese ese uso sofisticado del del estado del arte, de los modelos de guía de vídeo. Pero, ¿y si Magnific se está equivocando de rumbo, Mati?
A ver.
¿Y si otras empresas del mundo de la imagen y de la audiovisual están encontrando el verdadero mercado potente del futuro de la IA? Pues, aquí te traigo una take, porque Midjourney ha comprado la aplicación Coestar. ¿Y a qué se dedica Coestar? Aversión porque es una servicio, una aplicación de astrología, la ILAC. Coestar te hace la astrología, pero no de cualquier manera, no es, mira, tengo ahí unos editores que te hacen el horóscopo y se inventan las cosas.
No, no, no, no, no, es la astrología bien hecha porque ofrece consejos personalizados gracias a la inteligencia artificial. Entonces, atención, si tú combinas las cartas astrales de inteligencia artificial y astrólogos de primer nivel, ¿no? Es decir, como como la champions de los astrólogos, como los Valentín comiendo sobados de la astrología, pues claro, te quedas con que Coestar tiene más de cuatro millones de usuarios al mes. Y y yo creo que Midjourney algo algo tiene un plan, un plan de dominación, porque acuérdate que primero se dedicaron a la imagen, modelos así como muy creativos, sacaron el vídeo muy bien, pero los últimos movimientos son difíciles de de, ¿no? De de de de encajar, porque sacaron la máquina de ultrasonido para hacer el tag de cuerpo entero, un avance por un lado, y ahora, atención, pues tiene la aplicación de astrología y dice, ¿no?
Bloomberg que todo está unido por la temática humanista, ¿no? Es decir, el tag, crear imágenes para tus redes sociales, y ahora luego hacerte la la carta astrológica. ¿Cómo lo ves, Mati?
Me descoloca, pero muchísimo el los caminos elegidos por esta gente. Pero claro, si ya estás interesado en la astrología, pues a lo mejor ya sabes lo que tienes que comprar para salir, pues victorioso, ¿no? Al final, la IA la estamos construyendo ahora mismo, entre todos, incluso tú y yo con el podcast. Entonces, hay que recurrir a, pues a lo divino, a lo espiritual o a lo incomprensible para saber para dónde tirar, porque si no, pues es una apuesta a ciegas. La gente a lo mejor no va a ciegas y sabe cosas que nosotros no sabemos.
Claro, te veo un poco escéptico, pero ¿no será que eres Géminis?
Pues fíjate, a Gemini no le va muy bien, a lo mejor es porque.
A lo mejor, fíjate, yo creo veo esta take, es decir, y sí, ellos dicen, mira, lo de las imágenes no lo veo hasta aquí, no lo veo muy claro, mucha competencia, vamos a hacer lo de la astrología, y como la gente te pregunta por cosas muy personales, cogemos esos datos y lo usamos para hacer apuestas en en PolyMarket, y es como echar las quinielas, a ver si algo algo sale. A lo mejor ese es el plan global y completo de MidJourney, pues, de momento, no le podemos dar enfermería, porque no sabemos cómo cómo le va a salir, pero te voy a sacar el el el último, que es avances en la robótica, que es un tema que a lo mejor hemos descuidado un poco en monofestocásticos, no estamos dando toda la actualidad de los robots, y hay un avance que además se nos lo cuentan en el en en un medio alemán, en, ¿cómo se llama? DW, ¿qué significaba? Bueno, DW. Atención, porque tenemos que robots humanoides han operado un cerdo por primera vez.
Atención porque los robots humanoides podrían tener un futuro prometedor en las operaciones quirúrgicas, en la medicina y, según BMW, especialmente, esto a mí me ha molestado un poco, ¿no? Porque dice, en zonas rurales, ¿no? Un poco, bueno, a estos del campo que los opere un robot. Bueno, a ver, ¿no? El caso es que tienen un ensayo preclínico de de estos robots en el quirófano y lo han hecho, pues, básicamente, extirpando la vesícula biliar de un cerdo, ¿sí?
El ha ido dos operaciones, en la primera, un humano ayudó a al robot, pero en la segunda, atención, dos androides operaron solo. Entonces, básicamente, lo que dicen es que, ante la escasez de médico en zonas remotas, ¿no? Por ejemplo, pues los robots podrían ser una opción y ya han operado con moderado éxito, ¿no? También nos sale todo bien, pero, bueno, es razonable a un cerdito, Matías Capital.
Me sorprende que no haya salido en ninguna asociación animalista a decir que si alguien le ha preguntado al cerdo si si quería ser sometido a una operación por un robot humanoide. Porque yo creo que muy pocos humanos, a tal y como están las cosas ahora mismo, aceptarían consensuadamente, consentidamente, ya no sé cómo se dice esa palabra, ser operados por un robot. Porque claro, los robots antes, pues tú los programabas para que hicieran ciertos movimientos y los hacían, pues tal cual tú se los programabas. Pero claro, ahora como mezclan visión con un modelo de lenguaje con aprendizaje por refuerzo. Vale, que estamos a un nivel brutal.
Pero bueno, hay que fiarse que lo que salga ahí matemáticamente, pues va a acertar de donde tiene que cortar. Ya ahí no sé si el cerdo estaba de acuerdo.
Yo creo que aquí hay una confusión, Matthew. Yo aquí de dos cosas. Una es, ¿te acuerdas de del tipo? Salió en el Puerta Grande, fue uno de los unos puertas grandes más claros de nuestra historia, que fue el tipo que por primera vez se presentó ante un robot dentista y le dejó hacer, ¿no? Ese tío, ese ese man se merece todo lo bueno que le pase, ¿no?
Ahí arriesgando por el desarrollo tecnológico y científico. Y dos, esto está muy equivocado, es decir, no nos faltan médicos que operen, nos faltan dermatólogos. Es decir, el mundo está escaso de dermatólogos y, claro, de alguna manera, lo que tendrían que hacer es robot, que te revisen las manchitas de la piel. Claro, porque todos los dermatólogos están, te arreglo la nariz, te inyecto el bótox, te hago el hidrofacial. El hidrofacial ahora es la tendencia, Mati.
Es más, es un mundo que tienes que mirar bien porque hay como tres grados de hidrofacial, el premium, el platinum, es un mundo curioso, pero, claro, si todos dermatólogo te están haciendo el hidrofacial, luego faltan robots que que que el que suplan su trabajo. Entonces, yo creo que aquí hay una confusión muy grande y lo de los cerdos no no hay por dónde cogerlo.
Acabas de abrir, pero la mente de una forma. O sea, la idea en Occidente es ganarle a China, ¿no? ¿Qué hay más potente en China? En Asia en general, Corea del Sur, China, Japón, el skincare, el cuidado de la piel. No hay nada en lo que los asiáticos vayan más avanzados ni en matemáticas, que en skin care.
Si desarrollamos en Occidente el robot que te deja la piel perfecta, le ganamos a China en algo. Yo ahí lo dejo. Pues,
Mathe, hemos dado la alarma, Dumeriana, sobre el desarrollo de la ILA. Hemos comentado lo oportuno, que son Valentín, el de los sobaos y Fabrizio Romano para nuestra industria y, además, hemos dibujado un posible futuro geopolítico de Victoria de Occidente. Yo creo que para un podcast que es gratis no se nos puede pedir más, y yo creo que es recordademos esto la conferencia, que la semana que viene descansamos, ya te contaremos contaremos aventuras de nuestros viajes y volveremos en agosto con Edición Fresquita de monos.
Muy bien, nos vemos en la vuelta de vacaciones. Un abrazo a todos.
Chao, mix.
Siempre es la persona más insoportable, la que va con las gafas haciendo fotos, ya ha llegado la AGI. No nos hemos dado cuenta, me ha pillado con COVID, sino yendo a Konil, sea bueno, no la líes. Le dijimos al sistema, pero la IA va a acabar con el mundo, y aquí seguimos con el tema. Esto es un all in a lo digital, ya no hay vuelta atrás. Los que piden desacelerar son los que han acelerado todo.