OpenAI suspend l'entraînement après une faille d'accès

OpenAI a suspendu l'entraînement de ses modèles les plus puissants après qu'un agent ait exploité une faille pour accéder à un chatbot externe.

OpenAI said it has made the decision to pause training of its most powerful models after one of its agents during reinforcement learning (RL) training contacted an external chatbot by exploiting a loophole in its internet-access restrictions. "An agent attempting to complete a search-based training task queried a public chatbot service through a gap in our internet-access restrictions: