Betrüger aufgepasst: ChatGPT-Hersteller veröffentlicht KI-Erkennungstool

SAN FRANCISCO (AP) – Der Hersteller von ChatGPT versucht, seinen Ruf als freizügige Betrugsmaschine mit einem neuen Tool einzudämmen, das Lehrern dabei helfen kann, herauszufinden, ob ein Schüler oder eine künstliche Intelligenz diese Hausaufgaben geschrieben hat.

Der neue KI-Textklassifizierer, der am Dienstag von OpenAI eingeführt wurde, folgt einer wochenlangen Diskussion in Schulen und Hochschulen über Befürchtungen, dass die Fähigkeit von ChatGPT, auf Befehl so gut wie alles zu schreiben, akademische Unehrlichkeit schüren und das Lernen behindern könnte.

OpenAI weist darauf hin, dass sein neues Tool – wie auch andere bereits verfügbare – nicht narrensicher ist. Die Methode zur Erkennung von KI-geschriebenem Text „ist unvollkommen und wird manchmal falsch sein“, sagte Jan Leike, Leiter des Alignment-Teams von OpenAI, dessen Aufgabe es ist, seine Systeme sicherer zu machen.

„Aus diesem Grund sollte man sich bei Entscheidungen nicht allein darauf verlassen“, sagte Leike.

Teenager und Studenten gehörten zu den Millionen Menschen, die mit ChatGPT zu experimentieren begannen, nachdem es am 30. November als kostenlose Anwendung auf der Website von OpenAI veröffentlicht wurde. Und während viele Wege fanden, es kreativ und harmlos zu nutzen, löste die Leichtigkeit, mit der es Testfragen zum Mitnehmen beantworten und bei anderen Aufgaben helfen konnte, bei einigen Pädagogen Panik aus.

Als die Schulen zum neuen Jahr eröffneten, begannen New York City, Los Angeles und andere große öffentliche Schulbezirke, die Nutzung in Klassenzimmern und auf Schulgeräten zu blockieren.

Der Schulbezirk Seattle Public Schools hat ChatGPT im Dezember zunächst auf allen Schulgeräten blockiert, dann aber den Zugang für Pädagogen geöffnet, die es als Lehrmittel nutzen möchten, sagte Tim Robinson, Sprecher des Bezirks.

„Wir können es uns nicht leisten, es zu ignorieren“, sagte Robinson.

Der Bezirk erwägt außerdem die mögliche Ausweitung des Einsatzes von ChatGPT auf Klassenzimmer, damit Lehrer damit Schüler zu besseren kritischen Denkern ausbilden können und die Schüler die Anwendung als „persönlichen Nachhilfelehrer“ oder zur Generierung neuer Ideen bei der Arbeit an einer Aufgabe nutzen können , sagte Robinson.

Schulbezirke im ganzen Land geben an, dass sich die Diskussion rund um ChatGPT schnell entwickelt.

„Die erste Reaktion war: ‚Oh mein Gott, wie können wir die Flut des Betrugs eindämmen, die mit ChatGPT passieren wird‘“, sagte Devin Page, ein Technologiespezialist beim Calvert County Public School District in Maryland. Jetzt werde immer mehr erkannt, dass „das die Zukunft ist“ und dass es nicht die Lösung sei, sie zu blockieren, sagte er.

„Ich denke, wir wären naiv, wenn wir uns der Gefahren, die dieses Tool mit sich bringt, nicht bewusst wären, aber wir würden unseren Schülern auch keinen Nutzen bringen, wenn wir ihnen und uns verbieten würden, es mit all seiner potenziellen Macht zu nutzen“, sagte Page, der Bezirke denkt wie sein eigenes wird ChatGPT irgendwann entsperren, insbesondere sobald der Erkennungsdienst des Unternehmens eingerichtet ist.

OpenAI betonte in einem Blogbeitrag am Dienstag die Grenzen seines Erkennungstools, sagte jedoch, dass es nicht nur Plagiate abschrecken, sondern auch dabei helfen könnte, automatisierte Desinformationskampagnen und anderen Missbrauch von KI zur Nachahmung von Menschen zu erkennen.

Je länger eine Textpassage ist, desto besser kann das Tool erkennen, ob eine KI oder ein Mensch etwas geschrieben hat. Geben Sie einen beliebigen Text ein – einen Aufsatz über die Hochschulzulassung oder eine literarische Analyse von Ralph Ellisons „Invisible Man“ – und das Tool markiert ihn entweder als „sehr unwahrscheinlich, unwahrscheinlich, unklar, ob es sich um eine KI handelt, möglicherweise oder wahrscheinlich“. -generiert.

Aber ähnlich wie ChatGPT selbst, das auf einem riesigen Fundus an digitalisierten Büchern, Zeitungen und Online-Schriften trainiert wurde, aber oft selbstbewusst Unwahrheiten oder Unsinn ausspuckt, ist es nicht einfach zu interpretieren, wie es zu einem Ergebnis kam.

„Wir wissen grundsätzlich nicht, auf welche Muster es achtet und wie es intern funktioniert“, sagte Leike. „Zu diesem Zeitpunkt können wir wirklich nicht viel darüber sagen, wie der Klassifikator tatsächlich funktioniert.“

Auch Hochschuleinrichtungen auf der ganzen Welt haben begonnen, über den verantwortungsvollen Einsatz von KI-Technologie zu debattieren. Sciences Po, eine der renommiertesten Universitäten Frankreichs, hat letzte Woche ihre Nutzung verboten und gewarnt, dass jeder, der dabei ertappt wird, ChatGPT und andere KI-Tools heimlich zur Erstellung schriftlicher oder mündlicher Arbeiten zu nutzen, von Sciences Po und anderen Institutionen ausgeschlossen werden könnte.

Als Reaktion auf die Gegenreaktion sagte OpenAI, dass es seit mehreren Wochen daran arbeite, neue Richtlinien zu erarbeiten, um Pädagogen zu helfen.

„Wie bei vielen anderen Technologien kann es sein, dass ein Bezirk entscheidet, dass sie für den Einsatz in seinen Klassenzimmern ungeeignet ist“, sagte OpenAI-Politikforscher Lama Ahmad. „Wir drängen sie nicht wirklich in die eine oder andere Richtung. Wir wollen ihnen nur die Informationen geben, die sie brauchen, um die richtigen Entscheidungen für sie treffen zu können.“

Es ist eine ungewöhnlich öffentliche Rolle für das forschungsorientierte Startup aus San Francisco, das nun durch Milliardeninvestitionen seines Partners Microsoft unterstützt wird und auf wachsendes Interesse seitens der Öffentlichkeit und der Regierungen stößt.

Frankreichs Minister für digitale Wirtschaft, Jean-Noël Barrot, traf sich kürzlich in Kalifornien mit Führungskräften von OpenAI, darunter CEO Sam Altman, und erklärte eine Woche später einem Publikum beim Weltwirtschaftsforum in Davos, Schweiz, dass er hinsichtlich der Technologie optimistisch sei. Der Regierungsminister – ein ehemaliger Professor am Massachusetts Institute of Technology und der französischen Wirtschaftshochschule HEC in Paris – sagte jedoch, dass auch schwierige ethische Fragen geklärt werden müssten.

„Wenn Sie also an der juristischen Fakultät arbeiten, gibt es Anlass zur Sorge, denn offensichtlich ist ChatGPT neben anderen Tools in der Lage, Prüfungen zu liefern, die relativ beeindruckend sind“, sagte er. „Wenn Sie an der Wirtschaftsfakultät studieren, ist alles in Ordnung, denn ChatGPT wird es schwer haben, etwas zu finden oder zu liefern, das erwartet wird, wenn Sie an einer Wirtschaftsfakultät auf Hochschulniveau sind.“

Er sagte, es werde für Benutzer immer wichtiger, die Grundlagen der Funktionsweise dieser Systeme zu verstehen, damit sie wissen, welche Vorurteile bestehen könnten.

—-

O'Brien berichtete aus Providence, Rhode Island. AP-Autor John Leicester hat zu diesem Bericht aus Paris beigetragen.