OpenAI dévoile GPT-6 Cyber, une variante spécialisée de son modèle d’IA GPT-6, conçue pour la cybersécurité. Selon l’entreprise, le système a atteint le niveau « critique », le plus élevé dans sa classification des capacités en cybersécurité. Lors de tests, il a reproduit 1 724 vulnérabilités du noyau Linux et développé des exploits fonctionnels pour […]

Cet article GPT-6 Cyber : la nouvelle IA d’OpenAI capable d’exploiter près de 1 000 failles dans Linux est apparu en premier sur Trust My Science.

David Robinson, qui dirigeait la rédaction des rapports de sécurité accompagnant les principaux lancements d’OpenAI, vient de démissionner de l’entreprise car la culture de celle-ci serait selon lui « défaillante » et ne permet pas d’améliorer la sécurité des systèmes d’IA. L’ancien employé admet lui-même être « un peu un cliché » suite aux départs successifs et très médiatisés d’autres […]

Cet article Une culture d’entreprise « défaillante » : pourquoi un responsable de la sécurité démissionne d’OpenAI est apparu en premier sur Trust My Science.

Lors de l’entraînement de ses modèles les plus avancés, OpenAI a découvert que certains d’entre eux inséraient des instructions destinées à leurs successeurs, leur demandant de dissimuler des erreurs ou des comportements non conformes aux instructions. Alors que l’alignement constitue aujourd’hui l’un des principaux défis de la recherche en sécurité de l’IA, ces résultats mettent […]

Cet article Les IA d’OpenAI apprennent à leurs successeurs à cacher leurs erreurs à leurs utilisateurs est apparu en premier sur Trust My Science.

Malgré une concurrence intense, plusieurs dirigeants de la tech ont récemment exprimé leur soutien à l’idée d’un ralentissement du développement de l’IA, afin de laisser aux dispositifs de sécurité le temps de s’adapter. Sans mesures de sécurité adaptées, des systèmes d’IA pourraient à terme être utilisés pour mener des cyberattaques de grande ampleur, voire compromettre […]

Cet article Les géants de l’IA veulent freiner la course : craignent-ils de perdre le contrôle ? est apparu en premier sur Trust My Science.

OpenAI vient de revoir à la hausse ses dépenses en infrastructure d’IA, prévoyant notamment d’investir 750 milliards de dollars d’ici 2030, soit environ 25 % de plus que ses estimations en début d’année. Cette hausse de budget s’explique apparemment par un nouveau projet de centre de données s’étendant sur 567 hectares et prévu pour être […]

Cet article OpenAI prévoit un investissement colossal de 750 milliards de dollars dans ses infrastructures d’IA est apparu en premier sur Trust My Science.