Skandal an der ICML 2025: Konferenz verbietet LLM-generierte Reviews – und straft Autoren hart
# Skandal an der ICML 2025: Konferenz verbietet LLM-generierte Reviews – und straft Autoren hart
Die International Conference on Machine Learning (ICML) hat in diesem Jahr einen Präzedenzfall geschaffen: Nachgewiesenermaßen mit Large Language Models (LLMs) verfasste Gutachten führen zum sofortigen Ausschluss – sowohl für die Reviewer als auch deren autorisierte Papers. Diese harte Linie wirft fundamentale Fragen zur akademischen Integrität im Zeitalter generativer KI auf.
## Was passierte?
Mehrere Twitter-Posts und Reddit-Diskussionen berichten, dass die ICML Reviewer identifiziert hat, die trotz ausdrücklicher Zusage, KEINE LLMs für ihre Gutachten zu nutzen, dennoch auf Tools wie ChatGPT oder Claude zurückgegriffen haben. Die Konsequenz: **Sämtliche Papers dieser Reviewer wurden aus dem Review-Prozess entfernt.**
## Die Kontroverse
Die Entscheidung der ICML ist nicht unumstritten:
### Kritiker sagen:
– **Mangelnde Zuverlässigkeit**: LLM-Detection-Tools sind bekannt für Fehlalarme. Falsch-positive Ergebnisse können legitime Arbeiten disqualifizieren
– **Doppelstandards**: Warum dürfen Autoren LLMs für Paper-Revisionen nutzen, Reviewer aber nicht?
– **Arbeitsbelastung**: Mit oft 3-5 Reviews pro Person und engen Deadlines ist der Druck immens
### Befürworter argumentieren:
– **Akademische Integrität**: Peer Review ist das Rückgrat wissenschaftlicher Qualitätskontrolle. Automatisierung untergräbt den Wert
– **Präzedenzwirkung**: Ein klares Signal an die Community, dass kurze Wege Konsequenzen haben
– **Fairness**: Werche Regeln gelten für alle – ohne Ausnahmen
## Das Dilemma der Detection
Die ICML scheint auf automatisierte Detection-Tools zu setzen – ein riskantes Unterfangen. Studien zeigen, dass AI-Detection-Software oft über 20% Fehlerraten aufweist, besonders bei nicht-muttersprachlichen Autoren oder bestimmten Schreibstilen.
### Die Alternative: Menschliche Überprüfung?
Eine manuelle Überprüfung aller Reviews wäre organisatorisch kaum zu bewältigen. Die ICML erhält jährlich Tausende von Einreichungen – eine menschliche Plagiat- oder AI-Prüfung jedes einzelnen Reviews ist illusorisch.
## Was bedeutet das für die Zukunft?
Dieser Fall markiert einen Wendepunkt:
1. **Klarere Guidelines nötig**: Konferenzen müssen explizit definieren, WAS genau erlaubt ist (Rechtschreibprüfung? Stilverbesserung? Strukturierung?)
2. **Bessere Detection**: Die Industrie muss zuverlässigere Werkzeuge entwickeln
3. **Kultureller Wandel**: Die Community muss den Diskurs über angemessene LLM-Nutzung führen
## Fazit
Die ICML-Entscheidung ist mutig, kontrovers und notwendig. Sie zwingt die ML-Community, sich mit den Auswirkungen generativer KI auf akademische Prozesse auseinanderzusetzen. Ob die harte Linie nachhaltig ist oder zu einem „AI Reviewer Underground“ führt, wird die Zukunft zeigen.
*Was denkst du? Zu hart oder angemessen? Sollten Konferenzen LLM-Hilfe bei Reviews explizit erlauben – mit transparenten Guidelines?*