Stack Overflow verbannt OpenAI ChatGPT

Stack Overflow, eine Website, auf der Entwickler Fragen zur Programmierung stellen und beantworten können, hat vorübergehend die Verwendung von Text verboten, der von ChatGPT generiert wurde. ChatGPT ist ein KI-basierter Chatbot, der letzte Woche von Open AI veröffentlicht wurde. ChatGPT basiert auf dem GPT-3-Sprachmodell von OpenAI. Es hat sich schnell herausgestellt, dass der Chatbot zwar „menschenähnliche“ Antworten gibt, aber auch Fehler in den Antworten enthalten sein können.

Seit seiner Einführung wurde er auf zahlreiche Arten aufgefordert, neuen Code zu schreiben und Programmierfehler zu beheben, während der Chatbot nach mehr Kontext fragen kann, wenn ein Mensch ihn um die Lösung von Programmierproblemen bittet, wie OpenAI in Beispielen darlegt. OpenAI stellt aber auch fest, dass ChatGPT manchmal plausibel klingende, aber falsche oder unsinnige Antworten schreibt. Dies scheint eine der Hauptursachen für die Auswirkungen auf Stack Overflow und seine Nutzer zu sein, die nach korrekten Antworten auf Programmierprobleme suchen. Da ChatGPT die Antworten so schnell generiert, geben einige Benutzer viele Antworten ein, ohne sie auf ihre Richtigkeit zu prüfen.

„Das Hauptproblem besteht darin, dass die Antworten, die ChatGPT erzeugt, zwar häufig falsch sind, aber typischerweise so aussehen, als ob sie gut sein könnten, und dass die Antworten sehr einfach zu erzeugen sind“, so die Moderatoren von Stack Overflow in einem Beitrag. StackOverflow verhängte das vorübergehende Verbot, weil die von ChatGPT erstellten Antworten sowohl für die Website als auch für die Benutzer, die nach korrekten Antworten suchen, erheblich schädlich sind. „Da die durchschnittliche Rate der richtigen Antworten von ChatGPT zu niedrig ist, ist das Posten von Antworten, die von ChatGPT erstellt wurden, sowohl für die Seite als auch für Benutzer, die nach richtigen Antworten suchen, sehr schädlich“, heißt es.

Reputationssystem könnte manipuliert werden

Sam Altman, der Chef von OpenAI, sagte auf Twitter, dass ChatGPT seit dem Start am vergangenen Mittwoch mehr als eine Million Nutzer hat. Altman sagte dem Twitter-Eigentümer Elon Musk, dass die durchschnittlichen Kosten für jede Antwort im einstelligen Centbereich lägen, räumte aber ein, dass das Unternehmen aufgrund der horrenden Rechenkosten irgendwann Geld verdienen müsse.

Einige Entwickler sind der Meinung, dass die Auswirkungen von ChatGPT auf Stack Overflow ein offensichtliches Problem darstellen, da es den Nutzern erlauben würde, das Reputationssystem zu manipulieren. Stack Overflow sagt, dass ChatGPT-Antworten seine auf Freiwilligen basierende Infrastruktur zur Qualitätskontrolle überfordert haben, weil so viele Antworten von schlechter Qualität eintrudeln. Bislang hat Stack Overflow Tausende von ChatGPT-Antworten entdeckt. Das andere Problem ist, dass viele Antworten eine detaillierte Analyse durch jemanden mit Erfahrung in diesem Bereich erfordern, um festzustellen, ob die Antwort schlecht ist.

Wenn ein menschlicher Nutzer dabei erwischt wird, eine von ChatGPT generierte Antwort zu posten, wird Stack Overflow Sanktionen gegen den Nutzer verhängen, selbst wenn der Beitrag akzeptabel war. „Wir müssen das Volumen dieser Beiträge reduzieren und in der Lage sein, mit denjenigen, die gepostet werden, schnell umzugehen, was bedeutet, dass wir uns mit den Benutzern und nicht mit einzelnen Beiträgen befassen müssen“, so Stack Overflow. „Daher ist die Verwendung von ChatGPT zur Erstellung von Beiträgen hier auf Stack Overflow vorerst nicht erlaubt. Wenn ein Benutzer ChatGPT nach der Veröffentlichung dieser vorübergehenden Richtlinie verwendet haben sollte, werden Sanktionen verhängt, um zu verhindern, dass Benutzer weiterhin solche Inhalte posten, selbst wenn die Beiträge ansonsten akzeptabel wären.“