Rodrigo Goitia

Websites are starting to block AI agents. Airbnb already did. Wrong fix. The problem isn't agents, it's anonymous agents. Sites need to know: → which human authorized it → for what action → with what limit Agents don't need a ban. They need verifiable delegation. That's identity, not bot detection.

Quiero reflexionar un poco sobre el hito que hemos vivido en las últimas horas en el mundo de la IA y de las matemáticas. Las primeras reacciones que recojo por parte de miembros de la comunidad matemática es shock, asombro, entusiamo de unos y amargura de otros, o todo a la vez. Por suerte el golpe que OpenAI ha dado sobre la mesa publicando 372 resultados de gran calibre ha sido suficiente para dejar atrás el exceptisismo que en las últimas semanas se había manifestado ("...si lo han logrado es por fuerza bruta"; "...han plagiado el resultado del dataset"; "...sólo son contraejemplos", etc). Un exceptisismo que en parte surge en un intento de encontrar explicaciones que nos satisfagan en pensar que seguimos viviendo en el marco de trabajo de siempre y en el que estamos cómodos. Porque la nueva realidad es chocante, muy chocante. Pero es real. La IA se ha convertido de facto en el principal motor de investigación matemática de frontera. Y ni siquiera operando a escalas enormes de fuerza bruta. Indican que de media cada resultado ha dedicado el equivalente a 3 horas de trabajo de ChatGPT Pro Thinking, lo cuál es extremadamente poco!! Este es un dato chocante porque venimos del gran titular de Navier-Stokes donde sabemos que OpenAI usó una cantidad muy superior de computación, lanzando un enjambre de 10.000 agentes concurrentes. Pero no dejo pasar el dato que le escuché recientemente al investigador Noam Brown quien en una entrevista comentó que él no creía que el resultado de NS viniera por méritos del sistema multiagente, sino realmente de que el modelo que están usando -el que ha usado aquí- es muy bueno en matemáticas. 3 horas de ChatGPT Pro para resolver problemas que a la humanidad y a las mentes más brillantes del planeta se le han estado atragantando durante décadas... Obviamente ante este escenario empatizo con toda la comunidad matemática que de golpe (y muy rápido) se ha encontrado con modelos súper inteligentes que entra con toda la maquinaria a recoger los frutos del bosque que durante siglos llevan cultivando. Es un shock y lo comprendo. Tanto a nivel profesional como a nivel emocional. Esta es una historia que se ha venido repitiendo con cada avance de la IA en diferentes ámbitos (arte, programación, ahora matemáticas) y que se acaba asimilando y aceptando como una nueva normalidad incluso antes de lo que podáis imaginaros ahora. Si algo caracteriza al humano es su rápida adaptabilidad. Pero sí recomiendo no enmarcar esto como algo que se pueda evitar o parar. Aunque no lo parezca, que la decisión de OpenAI haya sido la de publicar estos avances en abierto es el mejor escenario en el que nos podríamos encontrar de todos los posibles -y ojalá siga ocurriendo así. Que la IA puede resolver problemas matemáticos ya es un hecho que no se va a deshacer. No se va a desinventar. No hay un CTRL+Z con el que todos podamos fingir demencia y vivir como si esto no fuera posible. Siendo así, da igual si OpenAI hace esto porque sea buen marketing o porque sus trabajadores son también apasionados de la ciencia que quieren mover rápido la frontera (ambas son correctas). Da igual cuánto rechazo pueda haber de la comunidad científica o cuántas cartas abiertas se firmen. La realidad es la que es. Y no será sólo OpenAI quien en los próximos meses canjee computación por nuevos avances sino cualquier organización (privada o pública) con acceso a estos modelos y computación suficiente. Habrá muchas de ellas que no hagan el acto altruista de compartilo al público. De hecho, ni siquiera sabemos si OpenAI ha hecho ese acto altruista y se han guardado para ellos los resultados clave para impulsar su investigación. No lo sabemos y esa es la realidad en la que estamos ahora. No perdamos fuerza en debates y conversaciones para intentar para un tren que ya pasó, y acomodaos ante la nueva realidad en la que estamos. Desde un punto de vista utilitarista, muchos de estos avances se van a traducir en mejoras prácticas aplicable a muchas ramas de la ciencia y la ingienería, mientras que los modelos tras estos descubrimientos no dejarán en el corto plazo de mejorar. Hoy han sido 376 problemas de los 4000 evaluados por OpenAI (~10%) y seguramente dentro de un año de esa lista queden pocos o ningunos... el potencial transformador que todo esto va a tener en nuestra sociedad va a ser enorme. Si eres de los que firmemente creen que la ciencia y la tecnología han sido el principal motor de transformación y mejora de nuestras sociedades, disfruta el viaje, porque va a ser intenso. Y empatizando con quienes viven esto desde el shock mucho ánimo. Ya nos avisó el bueno de Ilya.

Recordad: dedicando poco esfuerzo habrán cientos haciendo miles de cosas. El valor ahí es nulo. Pero que dediquen el tiempo que merecen las cosas, con gusto y cariño, seguirán siendo muchos menos. Mientras la dinámica de invertir más trabajo para un mejor resultado siga aportando valor al público, habrá mercado. Ahora estamos en una fase transitoria en la que como podemos hacer lo que antes llevaba mucho curro en pocos minutos, nos parece fascinante. Pero somos de acostumbrarnos rápido (adaptación hedónica) y eso reajustará nuestras preferencias. Si queréis trabajar en algo, con IA o sin ella, dedicadle tiempo, cariño y trabajo. Aprovechad la oportunidad par elevar el nivel de calidad y ofreced algo que os destaque frente al resto. Siempre ha funcionado así y no va a cambiar ahora.

Most predictions I see are still way too conservative. Here's mine

AI is rapidly getting smarter. Now, humanity can too. Today, @nucleusgenomics is announcing Vitruvian, our newest set of genetic optimization models. Vitruvian’s intelligence model can optimize embryo DNA for 14 IQ points — nearly a standard deviation. The models were trained on 1,000,000+ people, validated across 40,000+ siblings, and used more than 7 million genetic markers. In Superintelligence, Nick Bostrom proposed genetic optimization as a key way for humanity to keep pace with rapidly advancing AI. Bostrom’s vision is no longer theoretical. Genetic optimization, like AI, has followed a scaling law: as datasets have grown, so have model capabilities. This trend will continue. Parents across the world now have the choice to substantially increase their child’s intelligence. And the next generation can choose to do the same. AI is no longer the only intelligence that will compound. Humanity can now direct its own evolution.

Bend2 launches tomorrow (maybe?) Let me talk a little bit For these who don't know me, I'm Victor. I've started programming when I was 11 years old, when I maintained a popular Open Tibia server in C++ and Lua. Since then, I enrolled Computer Engineering (never finished), helped build Ethereum, and have been studying programming language theory for the last decade. I've then built Kind (a minimal proof language), HVM (a parallel VM), and Bend1 (an early prototype of Bend2). So, what is Bend2? You can describe it as "the language design I honestly consider to be the best possible for a post-AGI economy". Bend2 doesn't have interaction nets, because I could not make them as fast as lower-order variants on everyday hardware, and Bend2 is designed to be practical, not idealistic. So, these expecting a Haskell-like lambda calculus engine will be disappointed. It is closer to C than it is to Haskell. But it still feels incredibly high-level, with JS-like closures and allocation (yet no GC!), Lean-like dependent types, and, of course, Bend1-like parallelism (with up to 100x faster raw speeds). So, Bend2 is something new that, on my honest PoV, has the potential to become the most sensible choice for any vibe-coded project. It is fast like C, parallel like CUDA, feels like Python. And, on top of that, it has something rare: a complete proof system, like Lean, which some of you may recognize as the language that labs like OpenAI and Anthropic have been using to solve open mathematical problems like Navier-Stokes. Bend brings that same proof system to a super fast app-centric language, allowing you to shift these powerful theorem proving models into ensuring that your apps are bug-free and hack-proof. The same capabilities that proved Navier-Stokes will now be writing real proofs that your own apps are correct. And I envision this as the obvious future of vibe-coded codebases. In a post-AGI economy, humans will eventually stop writing and reading code, but we still need a precise language to communicate our intents to the AI's maintaining our codebases. Bend is that language. Of course, Bend is not perfect yet. Writing a programming language is hard. Writing a proof language is 10x harder than that. Proving its consistency is 10x harder than that. Compiling it to the GPU, including closures, unrestricted recursion, fast object allocation and GC-free collection... is something nobody else has done before. So, needless to say: *expect bugs and limitations*. There is a huge ass section in our README talking about current limitations. For example, u64 and f64 are out. I did try adding them, but Metal doesn't even support f64. I gave up for now. On the brigher side, we have 32-bit numbers now, and Bend1's 2 GB memory limit has been lifted to 8 TB. Bend2 has a LOT of features that Bend1 lacked, and you'll find them in our guide. Bugs are expected mostly in the compiler, which, unlike the trusted proof kernel (which is very stable already), has a LOT of AI slop. There is no way on Earth there won't be many bugs. So, if your app crashes on day 1: please be patient, report and let us fix it <3 On the business: we ship without a product. Everything I could think of was either blocked by laws, or by the market not paying for compilers, and I'd rather increase our chances of success, than risk them just to make some immediate profit, or delay it foreer. Yes, years working in a project that isn't going to make a cent. I'm ok with it, because we have other, cooler things being cooked, and these are waaay easier to sell. So, yes, I'm giving this all to the world. Wanna show some appreciation? Just use it, create some apps, tell your friends about it, give it a fair chance and don't immediately give up if the compiler crashes or someone proves Empty on day 1 (yes, the theory is formalized, but the kernel drifted, so early days exploits are not impossible). If you find any bug, report it. If you miss any feature, request it. Our team of 4 humans (and 25 non-humans!) will be working hard to fix issues, address limitations, and make this language competitive with the mature alternatives in the market. I'm really proud of Bend2, I think it has the potential to become best language of choice for vibe-coded project, and I hope you find it as useful as I do. That's it for now. See you tomorrow(?) ^-^