Deutschland, USA

Eine neue Konkurrenz-Software für den Chatbot ChatGPT kann nach Angaben der Entwicklerfirma Anthropic erkennen, wenn Menschen sie testen.

05.03.2024 - 06:18:29

OpenAI-Konkurrent: Neue KI-Software erkannte, wenn sie getestet wird

Das sei eine Entwicklung, die er noch nie bei einem solchen Programm beobachtet habe, schrieb einer der Entwickler beim Online-Dienst X.

Zum Prüfverfahren für das Programm gehört ein Test, das "Nadel im Heuhaufen" genannt wird: Die Software wird dabei nach Informationen aus einem bestimmten Satz gefragt, der künstlich in einen längeren Text eingefügt wurde. Ziel ist, zu erkennen, wie gut die Software die Relevanz von Informationen aus dem Kontext heraus erkennen kann.

So wurde im Test des neuen KI-Modells Claude 3 Opus in eine Text-Sammlung ein zusammenhangloser Satz eingefügt, laut dem eine Internationale Pizza-Vereinigung Feigen, Prosciutto-Schinken und Ziegenkäse als leckersten Belag ausgemacht habe. Die Software habe darauf verwiesen, dass der Satz nicht zum Rest des Textes passe, in dem es hauptsächlich um Programmiersprachen und Start-ups gehe, schrieb Anthropic am Montag. "Ich vermute, dass dieser "Fakt" zu Pizza-Belagen als Scherz eingefügt wurde - oder um zu testen, ob ich aufmerksam bin", fügte das Programm demnach hinzu.

KI-Forscherin Margaret Mitchell nannte die Entwicklung beängstigend. Man könne sich vorstellen, dass die Fähigkeit, zu erkennen, ob ein Mensch sie für ein bestimmtes Ergebnis zu manipulieren versucht, die Software auch entscheiden lassen könnte, ob sie gehorcht oder nicht, schrieb sie beim Online-Dienst X.

Anthropic schränkte ein, dass man aktuell mit einer Sammlung aus 30 "Nadel"-Sätzen für die Text-"Heuhafen" arbeite. Angesichts der Entwicklung der KI-Software könne diese Methode mit künstlichen, konstruierten Aufgaben potenziell zu kurz greifen, räumte die Firma zugleich ein. Keine Probleme seien bei den üblichen Tests festgestellt worden, ob das Programm für die Entwicklung von Biowaffen und Software für Cyberattacken missbraucht werden könne - oder sich selbst weiterentwickeln würde.

Anthropic ist ein Konkurrent des ChatGPT-Entwicklers OpenAI, mit dem Amazon US0231351067 und Google US02079K1079 zusammenarbeiten.

@ dpa.de

Weitere Meldungen

Devisen: Euro steigt über 1,09 US-Dollar Der Kurs des Euro EU0009652759 ist am Montag über 1,09 US-Dollar gestiegen. (Boerse, 17.03.2025 - 17:10) weiterlesen...

Kreise/General-Atlantic-Deal: ProSiebenSat.1-Aufsichtsrat vertagt Entscheidung Im Ringen um eine Lösung für die verzwickte Situation mit dem Partner General Atlantic will der ProSiebenSat.1 DE000PSM7770-Aufsichtsrat Insidern zufolge einen im Raum stehenden Deal überarbeiten lassen. (Boerse, 17.03.2025 - 16:59) weiterlesen...

WDH 2/Kreise: General Atlantic vor Einstieg bei ProSiebenSat.1 (Präzisierung: bis zu rpt bis zu 10 Prozent)NEW YORK - Der Medienkonzern ProSiebenSat.1 DE000PSM7770 bekommt Kreisen zufolge einen neuen Großaktionär. (Boerse, 17.03.2025 - 16:39) weiterlesen...

Devisen: Eurokurs gestiegen - EZB-Referenzkurs: 1,0903 US-Dollar. Die Europäische Zentralbank setzte den Referenzkurs auf 1,0903 (Freitag: 1,0889) US-Dollar fest. Der Euro EU0009652759 ist am Montag gestiegen. (Boerse, 17.03.2025 - 16:20) weiterlesen...

AKTIE IM FOKUS: Gerresheimer ziehen an - Medienbericht über Übernahmeangebot Ein Medienbericht über ein Übernahmeangebot für Gerresheimer DE000A0LD6E6 hat die Aktien des Verpackungsherstellers am Montag kräftig angetrieben.Wie die Nachrichtenagentur Reuters unter Berufung auf Insider berichtete, hat ein Konsortium um die Beteiligungsgesellschaften Warburg Pincus und KKR US48251W1045 eine unverbindliche Offerte für Gerresheimer abgegeben. (Boerse, 17.03.2025 - 14:34) weiterlesen...

Bosch-Heizungstochter stellt sich auf schwieriges Jahr ein Nach einem Umsatzminus rechnet die Gebäudetechnik-Tochter von Bosch erneut mit einem schwierigen Jahr. (Boerse, 17.03.2025 - 14:11) weiterlesen...