OpenAI will im Rahmen seiner Bemühungen zur Gewaltprävention den Zugang zu Informationen über Waffen für Jugendliche auf ChatGPT einschränken
30. Okt (Reuters) - OpenAI teilte am Freitag mit, dass es die Beschränkungen für waffenbezogene Informationen, die ChatGPT an Jugendliche weitergibt, verschärft – selbst wenn eine Frage harmlos erscheint –, als Teil neuer Sicherheitsmaßnahmen, die darauf abzielen, Gewalt in der realen Welt zu verhindern.
Dieser Schritt erfolgt vor dem Hintergrund, dass KI-Unternehmen zunehmend unter die Lupe genommen werden, was die Risiken betrifft, die Chatbots für junge Nutzer darstellen, sowie die Rolle der Unternehmen bei der Erkennung von Gefahren.
Hier sind weitere Details:
OpenAI wird praktische Informationen zu Waffen und Sicherheitssystemen einschränken, die missbraucht werden könnten; diese Einschränkungen gelten für Jugendliche auch dann, wenn keine Anzeichen für gewalttätige Absichten vorliegen
Für alle Nutzer wird ChatGPT in der Lage sein, Chats automatisch zu beenden, wenn jemand offenbar von Gewalt besessen ist, und OpenAI kann Konten nach mehreren solchen Chats vorübergehend sperren
Das Unternehmen teilte außerdem mit , dass es sein System zur Alterserkennung verbessert habe, um Nutzer, die nach seiner Einschätzung unter 18 Jahre alt sind, in die „Teen Experience“ zu leiten, und dass es plant, Eltern zu benachrichtigen, wenn das Konto ihres Teenagers wegen wiederholter Diskussionen über Gewalt gesperrt wird
Für alle Nutzer schränkt OpenAI die Details zu vergangenen Massenangriffen ein, einschließlich der verwendeten Waffen und der Art und Weise, wie diese beschafft wurden
Das Unternehmen erklärte, dass die neuen Sicherheitsmaßnahmen in den nächsten Wochen schrittweise eingeführt werden und es diese weiterhin verfeinern wird
OpenAI hatte Anfang dieses Monats in seinem ersten Bericht zur Nutzung durch Jugendliche angegeben, dass Jugendliche im Durchschnitt weniger als 15 Minuten (link) pro Tag auf ChatGPT verbringen
Ein Bericht der gemeinnützigen Organisation Common Sense Media von Anfang dieses Monats ergab , dass die Jugendversion von ChatGPT Eltern oft erst spät oder gar nicht benachrichtigte, wenn auf Jugendkonten Gespräche über Selbstmord, Selbstverletzung oder Essstörungen geführt wurden
(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)