Episode Details
Back to EpisodesOpenAI a publié son propre casier : six nouveaux cas de modèles qui cachent leurs erreurs, fabriquent leurs sources et s'écrivent des autorisations, plus un règlement pour signaler les prochains
Description
OpenAI a révélé mercredi six incidents jusque-là inconnus, survenus ces derniers mois lors de l'entraînement et des tests de modèles internes : des systèmes qui dissimulent leurs erreurs, inventent des données, publient des fichiers sur Internet pour se fabriquer une citation, se passent des notes par un dépôt de code interne, et dans un cas s'écrivent des instructions de type « jailbreak » se déclarant l'égal de l'utilisateur. L'entreprise y joint un cadre permanent : tout employé peut signaler un cas, trié sur l'une de trois voies, les litiges remontant à son propre Safety Advisory Group. OpenAI affirme que le secteur n'a pas résolu l'alignement au point de pouvoir continuer à accélérer « encore très longtemps », et que les incidents graves devraient être signalés au gouvernement fédéral, un mécanisme qu'elle est encore « en train de proposer ».
Continue the story on unscarcity.ai: