Pour garder l'IA sous contrôle, agissons maintenant.
Joined May 2024
- Tweets516
- Following0
- Followers665
- Likes18
Près de 500 scientifiques, dont Yoshua Bengio, Stuart Russell et Geoffrey Hinton, ainsi qu’en France des chercheurs de l’Inria, du CNRS, ou de Télécom Paris, ont signé une lettre ouverte sur l’intelligence artificielle et la cybersécurité.
lls réclament notamment que les organisations développant, déployant et testant des modèles d’IA dotés de capacités cyber adoptent des systèmes de confinement à haut niveau d’assurance.
Ces organisations devraient dans un premier temps, isoler par défaut ces modèles de tout réseau. Ils demandent également la création d’un organisme international chargé de fixer des normes de confinement et de rendre publics les incidents de sécurité.
ai-security-letter.org
Même avec des garde-fous, Astra répond à une demande dangereuse sur six. Et ces garde-fous restent volontaires, propres à chaque entreprise.
On ne peut pas gérer un risque avec des tests de sécurité qui saturent et des mesures de sécurité inadaptées.
Il faut des règles contraignantes et une pause internationale des modèles les plus puissants.
→ Rejoignez Pause IA : pauseia.fr/rejoindre
📢 Grande marche à Paris pour la sécurité de l'IA le 14 novembre ! 🔥
Le 18 novembre, Trump se rend en Chine et doit rencontrer Xi Jinping. Alors le samedi 14 novembre, nous organisons avec @StopTheAIRace une marche à Paris ! luma.com/stop-pjeb
Le même jour, des marches auront lieu aussi à San Francisco, New York et Washington. Pour nous aider, inscrivez-vous : luma.com/stop-pjeb et partagez autour de vous le lien d'inscription !
Dans le nucléaire et l’aviation, rien n’est mis en service sans autorisation préalable. L’IA de pointe ne devrait pas faire exception.
Nous demandons un moratoire international sur les IA de pointe. Rejoignez Pause IA : pauseia.fr/fr/rejoindre
Certains cybercriminels qui achètent ces outils se font eux-mêmes pirater, selon Halcyon. Leurs identifiants sont volés par des logiciels espions, puis revendus sur les mêmes marchés clandestins.
Pour Halcyon, l’enjeu est désormais de savoir si les défenseurs pourront contrer un écosystème déjà mature, en progression et capable de survivre aux démantèlements.
Pour en savoir plus : halcyon.ai/ransomware-resear…
