Samsung-Softwareentwickler wegen des Einfügens von proprietärem Code in ChatGPT festgenommen

Mehrere Mitarbeiter des in Korea ansässigen Halbleiterunternehmens von Samsung haben vertrauliche Codezeilen in ChatGPT eingefügt und so Unternehmensgeheimnisse preisgegeben, die in die zukünftigen Antworten des Chatbots an andere Menschen auf der ganzen Welt einbezogen werden könnten.

Laut The Economist Korea (öffnet sich ein neues Fenster) kopierte ein Mitarbeiter fehlerhaften Quellcode aus einer Halbleiterdatenbank in den Chatbot und bat ihn, einen Fix zu finden. Ein anderer Mitarbeiter tat dasselbe für ein anderes Gerät und forderte bei ChatGPT eine „Code-Optimierung“ an. Nachdem ein dritter Mitarbeiter das KI-Modell gebeten hatte, Besprechungsnotizen zusammenzufassen, griffen die Führungskräfte von Samsung ein. Das Unternehmen beschränkte die Aufforderung jedes Mitarbeiters an ChatGPT auf 1.024 Byte.

Nur drei Wochen zuvor hatte Samsung aufgrund von Bedenken zu diesem Problem sein Verbot für Mitarbeiter, ChatGPT zu nutzen, aufgehoben. Nach den jüngsten Vorfällen erwägt man eine Wiedereinführung des Verbots sowie Disziplinarmaßnahmen gegen die Mitarbeiter, so The Economist Korea.

„Wenn sich ein ähnlicher Unfall ereignet, selbst nachdem Notfallmaßnahmen zum Schutz von Informationen ergriffen wurden, kann der Zugriff auf ChatGPT im Unternehmensnetzwerk blockiert werden“, heißt es in einem internen Memo. „Sobald Inhalte in ChatGPT eingegeben werden, werden Daten an eine externe Stelle übertragen und gespeichert.“ Server, wodurch es für das Unternehmen unmöglich ist, es abzurufen.“

Das OpenAI-Benutzerhandbuch (wird in einem neuen Fenster geöffnet) warnt Benutzer vor diesem Verhalten: „Wir können bestimmte Eingabeaufforderungen nicht aus Ihrem Verlauf löschen. Bitte geben Sie in Ihren Gesprächen keine vertraulichen Informationen weiter.“ Es heißt, dass das System alle ihm übermittelten Fragen und Texte als Trainingsdaten verwendet.

Die Verwendung von ChatGPT zum Auffinden und Beheben von fehlerhaftem Code ist in der Softwareentwicklung weit verbreitet. Wenn Benutzer eine Codierungsfrage stellen, wird versucht, die Lösung zu finden und stellt einen Codeausschnitt mit einer Schaltfläche zum Kopieren und Einfügen mit nur einem Klick bereit. Die Programmierkenntnisse des Chatbots reichen offenbar aus, um bei Google als Einsteiger-Ingenieur eingestellt zu werden.

Dies kann die Zeit (manchmal Stunden) ersetzen, die Ingenieure mit dem Surfen auf Websites wie Stack Overflow verbringen, einer beliebten Ressource zur Fehlerbehebung. Als Beweis für die hohe Nutzungsrate von ChatGPT durch Softwareentwickler verbot Stack Overflow (öffnet sich in einem neuen Fenster) von ChatGPT generierte Antworten nur wenige Tage nach der Veröffentlichung am 30. November 2022 aufgrund von Bedenken hinsichtlich ungenauer Antworten, die glaubwürdig erscheinen.

„Das Hauptproblem besteht darin, dass die Antworten, die ChatGPT liefert, zwar einen hohen Anteil an Fehlern aufweisen, in der Regel aber gut aussehen und die Antworten sehr einfach zu erstellen sind“, heißt es in einem vor vier Tagen aktualisierten Beitrag von Stack Overflow. „Die Menge dieser Antworten (Tausende) ... hat unsere auf Freiwilligen basierende Qualitätskurationsinfrastruktur effektiv überschwemmt.“

Berichten zufolge erwägt Samsung den Aufbau einer eigenen KI, um zukünftige Pannen zu verhindern, obwohl Ingenieure wahrscheinlich alle Maßnahmen umgehen könnten, indem sie ChatGPT auf persönlichen Geräten verwenden. Auch Microsoft Bing und Google Bard können Fehler in Codezeilen erkennen, daher ist ein Verbot von ChatGPT keine sichere Lösung.

Melden Sie sich jetzt für „Neuigkeiten“ anum jeden Morgen unsere Top-Storys in Ihren Posteingang zu bekommen.

Dieser Newsletter kann Werbung, Angebote oder Affiliate-Links enthalten. Wenn Sie einen Newsletter abonnieren, erklären Sie sich mit unseren Nutzungsbedingungen und Datenschutzrichtlinien einverstanden. Sie können den Newsletter jederzeit abbestellen.

Ihr Abonnement wurde bestätigt. Behalten Sie Ihren Posteingang im Auge!