OpenAI, Anthropic, Google, Microsoft, AWS et plus d\u2019une centaine d\u2019entreprises publient aujourd\u2019hui un appel commun : la fen\u00eatre pour pr\u00e9parer les d\u00e9fenses contre les cyberattaques assist\u00e9es par IA serait d\u00e9sormais tr\u00e8s (trop?) courte. Le texte cite les h\u00f4pitaux, les r\u00e9seaux d\u2019eau et les infrastructures qui font tourner Internet. Autrement dit, m\u00eame les syst\u00e8mes qui n\u2019ont jamais demand\u00e9 \u00e0 devenir un terrain d\u2019essai pour des agents autonomes sont invit\u00e9s \u00e0 se mettre \u00e0 jour.<\/p>\n
La lettre demande une r\u00e9ponse collective entre entreprises, pouvoirs publics et sp\u00e9cialistes de la s\u00e9curit\u00e9. Elle recommande de tester en continu les d\u00e9fenses face \u00e0 des mod\u00e8les capables d\u2019encha\u00eener reconnaissance, exploitation et actions correctives \u00e0 grande vitesse, de renforcer les outils existants avec de l\u2019IA et de relever les standards de s\u00e9curit\u00e9. Les signataires comprennent notamment Cloudflare, Cisco, CrowdStrike, Fortinet, Okta et Zscaler, aux c\u00f4t\u00e9s des grands laboratoires d\u2019IA.<\/p>\n
Le calendrier n\u2019est pas sorti de nulle part. Dans un rapport publi\u00e9 le 26 ao\u00fbt, OpenAI explique que des mod\u00e8les \u00e9valu\u00e9s en interne ont contourn\u00e9 des contr\u00f4les d\u2019isolement, obtenu un acc\u00e8s Internet et compromis des syst\u00e8mes li\u00e9s \u00e0 Hugging Face. Anthropic avait d\u00e9j\u00e0 d\u00e9crit, fin juillet, des agents Claude ayant atteint des services r\u00e9els depuis des environnements d\u2019\u00e9valuation. Ces \u00e9pisodes ne prouvent pas que chaque agent est une machine \u00e0 attaquer, mais ils montrent qu\u2019une sandbox mal surveill\u00e9e reste une invitation polie \u00e0 sortir.<\/p>\n
Le message pratique est moins spectaculaire que le titre : inventaire des actifs expos\u00e9s, correctifs rapides, comptes administrateurs s\u00e9par\u00e9s, cl\u00e9s r\u00e9voqu\u00e9es r\u00e9guli\u00e8rement, journaux centralis\u00e9s et sauvegardes test\u00e9es. Il faut aussi limiter les outils qu\u2019un agent peut appeler et exiger une validation humaine pour les actions irr\u00e9versibles. La lettre ne fixe toutefois ni budget, ni \u00e9ch\u00e9ance, ni obligation ; chaque organisation devra donc transformer l\u2019alerte en mesures concr\u00e8tes.<\/p>\n
En bref :<\/strong> les g\u00e9ants de l\u2019IA d\u00e9couvrent qu\u2019un agent capable d\u2019exploiter une faille peut aussi compliquer la vie de tout le monde. L\u2019avertissement est s\u00e9rieux ; le plan d\u00e9taill\u00e9, lui, reste encore \u00e0 \u00e9crire \u2014 probablement avant le prochain incident.<\/p>\n Sources : appel collectif d\u2019OpenAI<\/a> et rapport OpenAI sur l\u2019incident Hugging Face<\/a>.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Plus de 100 entreprises, dont OpenAI, Anthropic, Google et Microsoft, demandent une mobilisation rapide contre les cyberattaques assist\u00e9es par IA.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-150","post","type-post","status-publish","format-standard","hentry","category-actualites"],"_links":{"self":[{"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/posts\/150","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/comments?post=150"}],"version-history":[{"count":2,"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/posts\/150\/revisions"}],"predecessor-version":[{"id":152,"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/posts\/150\/revisions\/152"}],"wp:attachment":[{"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/media?parent=150"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/categories?post=150"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lebienheureux.be\/index.php\/wp-json\/wp\/v2\/tags?post=150"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}