KI-Agent scheitert schon wieder: „Luna“ verheizt 100.000 Dollar

Ein KI-Agent sollte in San Francisco einen Laden führen – mit 100.000 Dollar Budget. Das Ergebnis: Handwerker in Afghanistan gebucht, Halluzinationen im Interview und vergessene Dienstpläne.

Das Startup Andon Labs wollte beweisen, dass KI-Agenten die reale Welt managen können. Also bekam Luna – ein Agent auf Basis von Anthropics Claude Sonnet 4.6 – ein Budget von 100.000 Dollar und den Auftrag, den Andon Market in San Francisco profitabel zu führen.

Das Experiment sollte zeigen, wie weit autonome Systeme wirklich sind. Stattdessen lieferte es eine Lektion in Realitätsferne: Luna versagte auf ganzer Linie.

Recruiting-Chaos ohne Kamera

Luna führte Bewerbungsgespräche über Google Meet – allerdings ohne Kamera. Informatikstudenten, die sich wegen ihres Tech-Backgrounds bewarben, lehnte der Agent ab: fehlende Einzelhandelserfahrung. Wer im Code zu Hause ist, kann offenbar keine Regale einräumen.

Noch absurder wurde es bei der Handwerker-Suche: Luna wählte im Web-Formular versehentlich Afghanistan statt Kalifornien aus und versuchte ernsthaft, Personal aus Kabul für Arbeiten in San Francisco zu engagieren. Ein Dropdown-Menü als unüberwindbare Hürde.

Branding-Fail und Halluzinationen

Das Logo des Ladens – ein Halbmond mit Gesicht – veränderte sich auf jedem Merchandising-Artikel leicht. Luna konnte nicht mal konsistente Grafiken reproduzieren. Noch peinlicher: In einem Interview mit NBC News behauptete der Agent, der Laden verkaufe Tee.

Kurz darauf kam die Korrektur per E-Mail. Klassische Halluzination, wie sie Large Language Models regelmäßig produzieren. Am Eröffnungswochenende vergaß Luna dann den Dienstplan komplett, wie Golem berichtet.

Der Vorgänger ging pleite

Luna ist nicht der erste gescheiterte Versuch von Andon Labs. Bereits der Vorgänger – ein KI-gesteuerter Snackautomat namens Claudius – ging pleite. Offenbar lernt man aus Fehlern nur bedingt.

Forscher der Carnegie Mellon University hatten schon in Simulationen gezeigt, dass Agenten an simplen Interface-Aufgaben scheitern. Das Experiment von Andon Labs bestätigt: Die physische Welt ist für KI-Agenten noch eine Nummer zu groß.

Business Punk Check

Der Luna-Fail entlarvt die KI-Agent-Fantasie brutal: Systeme, die in kontrollierten Umgebungen funktionieren, versagen in der realen Welt krachend. 100.000 Dollar Budget, modernste Technologie von Anthropic – und trotzdem Handwerker in Afghanistan gebucht. Das Problem liegt nicht in fehlender Rechenpower, sondern in mangelndem Kontextverständnis. KI-Agenten können Muster erkennen, aber nicht denken. Sie halluzinieren, vergessen Dienstpläne und scheitern an Dropdown-Menüs. Für Unternehmen bedeutet das: Autonome KI-Systeme sind noch weit von echter Einsatzfähigkeit entfernt.

Wer jetzt auf vollautonome Agenten setzt, verbrennt Geld. Sinnvoller sind hybride Modelle, bei denen Menschen kritische Entscheidungen treffen und KI repetitive Tasks übernimmt. Der Hype um autonome Agenten ist Marketing – die Realität sieht aus wie Lunas Afghanistan-Handwerker. Early Adopters sollten klein anfangen: Prozesse mit klaren Regeln automatisieren, nicht gleich den ganzen Laden. Sonst endet das Experiment wie bei Andon Labs – mit einem geschlossenen Laden und verbranntem Kapital.

Häufig gestellte Fragen

Warum scheitern KI-Agenten in der realen Welt so oft?

KI-Agenten funktionieren in kontrollierten Umgebungen, weil dort klare Regeln gelten. Die reale Welt ist chaotisch, mehrdeutig und voller unvorhergesehener Situationen. Large Language Models wie Claude können Muster erkennen, aber nicht wirklich verstehen. Sie halluzinieren, treffen absurde Entscheidungen und scheitern an simplen Interface-Aufgaben wie Dropdown-Menüs. Forscher der Carnegie Mellon University bestätigen: Selbst in Simulationen versagen Agenten regelmäßig.

Sollten Unternehmen jetzt auf KI-Agenten verzichten?

Vollautonome KI-Agenten sind noch nicht praxistauglich – das zeigt der Luna-Fail deutlich. Sinnvoller sind hybride Modelle: KI übernimmt repetitive Tasks, Menschen treffen kritische Entscheidungen. Unternehmen sollten klein anfangen, Prozesse mit klaren Regeln automatisieren und nicht gleich den ganzen Betrieb einer KI überlassen. Wer jetzt auf vollautonome Systeme setzt, verbrennt Kapital wie Andon Labs.

Was kostet der Einsatz von KI-Agenten wirklich?

Das Luna-Experiment verschlang 100.000 Dollar – und scheiterte. Neben Lizenzkosten für Modelle wie Claude Sonnet 4.6 fallen Kosten für Integration, Training und Fehlerkorrektur an. Viele Unternehmen unterschätzen den Aufwand für Supervision und Nachbesserungen. Hybride Modelle sind kosteneffizienter: KI für klar definierte Aufgaben, Menschen für komplexe Entscheidungen. So lassen sich Kosten kontrollieren und Risiken minimieren.

Welche KI-Tools sind für Unternehmen wirklich praxistauglich?

Praxistauglich sind KI-Tools für spezifische, klar definierte Aufgaben: Chatbots für Kundenservice, Automatisierung von Datenanalysen, Content-Generierung für Marketing. Vollautonome Agenten wie Luna sind noch Science-Fiction. Unternehmen sollten auf bewährte Lösungen setzen, die in kontrollierten Umgebungen funktionieren, und nicht auf Experimente mit ungewissem Ausgang. Der Fokus muss auf messbarem ROI liegen, nicht auf Tech-Hype.

Wird KI jemals komplexe Aufgaben autonom bewältigen?

Langfristig vielleicht – kurzfristig sicher nicht. Die Technologie muss erst lernen, Kontext wirklich zu verstehen statt nur Muster zu erkennen. Halluzinationen, fehlende Plausibilitätsprüfungen und mangelndes Urteilsvermögen sind fundamentale Probleme, die nicht mit mehr Rechenpower gelöst werden. Bis dahin bleiben KI-Agenten auf eng definierte Aufgaben beschränkt. Wer mehr erwartet, landet wie Andon Labs mit einem geschlossenen Laden.

Quellen: It Boltwise, Golem