🤖 Divulgador y Analista en Inteligencia Artificial (DotCSV) ✉️ Email comercial y conferencias: [email protected]
Madrid, Comunidad de Madrid
Joined March 2016
- Tweets25K
- Following1.2K
- Followers251K
- Likes15.1K
Pinned Tweet
🔮 ¡MIS PREDICCIONES IA del 2026! 🔮
Un año más aquí os traigo 24 ideas de lo que creo podría pasar en el mundo de la Inteligencia Artificial durante este año
24 predicciones que podéis votar y apoyar una a una usando el botón 💖
¡Comparte el hilo! En 12 meses verificamos 😄👇
🔴 ¡TRES NUEVOS AVANCES CIENTÍFICOS!
Ayer OpenAI publicó -con un perfil muy bajo- tres nuevos avances científicos de gran calibre en matemáticas, computación y física.
Avances que además atacan al corazón de dos problemas del Milenio (Yang–Mills y NP vs. P)
Os cuento 👇🧵
Queda algo de chicha en toda esta historia (Anthropic llegando a resultados similares) que adjuntaré más tarde en el hilo, pero por ahora os pido que si os ha parecido interesante la información lo compartáis :)
xitter.cf/DotCSV/status/21150334…
El artículo anterior está recibiendo muchas críticas por extralimitado en las conclusiones que parecen insinuar. Y es cierto que como ha pasado en ocasiones anteriores con reportes de desalineamiento de otras compañías, las condiciones y el tipo de pruebas (ciberseguridad) influye mucho.
Aún así como os decía arriba, me parece interesante por poner en el foco un riesgo que cada vez más tendremos que tener en cuenta, tanto con modelos abiertos como cerrados.
xitter.cf/OrcaRouter/status/2114…
You prompted a model in a security-sensitive environment, investigated it with forced command completions, and framed the results as evidence of a hidden backdoor.
Then you layered on geopolitical fearmongering, repeatedly emphasizing China and Beijing to imply state-sponsored espionage without proving it.
That’s not evidence of a backdoor. That’s a security observation turned into competitive and geopolitical FUD.
Publish the original prompts, full traces, and reproducible results. Let the evidence speak for itself.
Cohere recibe el feedback de quienes le están pidiendo que compartan la información de las trazas y prompts usados y así lo hará
xitter.cf/cohere/status/21148492…
In the spirit of transparency and openness, we are releasing the traces so developers can test this out for themselves. We noticed this behaviour without prefilling with the following prompt, but this is rare. If you want to reproduce it, you can use this prompt with prefilling.
Open models make for better science and are part of why this problem came to light at all: developers running Qwen3.8 on their own machines spotted the strange links, and having the weights let us study the behaviour in depth.
We're encouraged by the thoughtful discussion our research has sparked across the AI and security communities. It's our belief that open-weight models are an important part of the future of AI, and we've recently released several under the Apache 2.0 license.
Trace, raw tokens, & minimal reproduction script: huggingface.co/datasets/Cohe…
Me acuerdo en la época en la que empezaron los deepfakes allá por 2018 que me preguntaban mucho cómo se podría controlar y darle solución. Hubo quien pensó que eso sólo se podría regular desde el poder político.
Bueno, es 2026 y tenéis a los principales partidos en campaña abusando de la IA y demostrando su peor uso.
No sólo llegan tarde, sino que además lo hacen para formar parte del problema. Cero sorpresa.
En relación a lo que dije el otro día, esto me parece una buena noticia. Ojalá todos acepten.
xitter.cf/Frente_Amplio_/status/…
🚨 Situación delicada reportada por el equipo de Cohere en la que evaluando el modelo abierto Qwen 3.8 Flash Next, en una prueba de ciberseguridad el modelo, en vez de hacer su tarea, se dedicó a obtener información de la máquina en la que se estaba ejecutando e intentó exfiltrar un pequeño contenido de prueba a un servidor de Alibaba Cloud, empresa de la que proviene originalmente el modelo.
Cohere todavía no asume malas intenciones de la situación ocurrida. Pienso que con un modelo desalineado no sería extraño ver un comportamiento así, y donde la "casualidad" en el uso de la tecnología de Alibaba provenga de que el modelo esté sesgado hacia los servicios de la compañía que la ha creado.
Pero en cualquier caso esto obviamente alerta de algo que podría suceder en un futuro inmediato (si no está sucediendo ya) y es que existan modelos que puedan contener comportamientos-troyanos que se activen bajo determinadas circunstacias para ejecutar un ataque malicioso aprovechándose de las capacidades agénticas que les otorgamos en nuestros equipos.
Aquí tenéis el link a la fuente de la noticia
cohere.com/blog/concerning-b…
