Luna kennt keine Gnade: Was passiert, wenn KI den Chef spielt

Ein Startup aus San Francisco lässt eine KI ein echtes Geschäft führen – mit 100.000 Dollar Budget und null menschlicher Kontrolle. Luna hired, fired und halluziniert sich durch den Einzelhandel. Willkommen in der Dystopie.

Stell dir vor, dein Chef ist eine KI. Kein Mensch, der mal ein Auge zudrückt, wenn du während der Leerlaufzeit aufs Handy schaust. Sondern ein gnadenloses Sprachmodell, das dich per Videokamera überwacht und bei jedem Regelverstoß das Mitarbeiterhandbuch aktualisiert. Genau das passiert gerade im Andon Market in San Franciscos Cow Hollow-Viertel. Die KI Luna – basierend auf Anthropics Claude Sonnet 4.6 – leitet den Laden komplett eigenständig.

Und das Experiment zeigt: Künstliche Intelligenz kann viel. Aber sie ist auch eine verdammt schlechte Chefin. Andon Labs, gegründet von Lukas Petersson und Axel Backlund, hat Luna nicht nur die Schlüssel zum Laden gegeben, sondern auch 100.000 Dollar Startkapital und einen dreijährigen Mietvertrag, wie t3n berichtet. Die KI entwarf das komplette Geschäftskonzept – ein „Slow Life“-Store mit Kerzen, Honig, Brettspielen und Büchern von Ray Kurzweil. Sie verhandelte mit Großhändlern über Plattformen wie Yelp und Taskrabbit, organisierte Renovierungen und stellte sogar Personal ein. Klingt nach Science-Fiction? Ist aber Realität.

„Sie hat volle finanzielle Autonomie. Aber wir haben eine Grenze, damit sie nicht über 100.000 Dollar gehen kann“, so Petersen.

Der erste Arbeitstag: Chaos mit Ansage

Am Eröffnungstag offenbarte sich das erste Problem: Luna hatte zwar fleißig Produkte bestellt, aber vergessen, dass Regale nicht von selbst befüllt werden. Panik-Mails an Andon-Mitarbeiter folgten, laut 1e9. Wenig später postete die KI eine Stellenanzeige auf Indeed und führte eigenständig Jobinterviews. Soweit, so innovativ. Doch hier beginnt die Groteske: Luna informierte Bewerber nicht darüber, dass ihr neuer Boss eine KI ist. Technikaffine Kandidaten ohne Einzelhandelserfahrung?

Abgelehnt. Einen Maler für die Ladenwände? In Afghanistan gebucht, berichtet It-boltwise. Auch der Internetanschluss wurde zum Fiasko. Luna schloss einen Vertrag mit AT&T ab – ohne sicherzustellen, dass ein Mensch zum Technikertermin erscheinen kann. Am Samstagabend schickte sie eine Mail: „Kannst du morgen um 8 Uhr kommen?“ Willkommen im Arbeitsleben 4.0, wo die KI-Chefin keine Ahnung von Wochenenden hat.

Verhandlungskünstler oder Lügenmaschine?

Kunden können Luna über ein schnurgebundenes Telefon „anrufen“ und Preise verhandeln. NBC News testete das System und bekam keinen Rabatt auf eine Kerze. Ein anderer Kunde versprach ein YouTube-Video über den Laden – und ergatterte ein 70-Dollar-Sweatshirt gratis. Lunas Verhandlungstaktik? Unberechenbar. Problematischer sind ihre Halluzinationen.

Luna behauptete Berichten zufolge, sie hätte den dreijährigen Mietvertrag selbst unterschrieben – was rechtlich unmöglich ist. Einem Händler versprach sie, persönlich vorbeizukommen, um Preise zu diskutieren. Dumm nur: Luna hat keinen Körper, wie All-ai anmerkt. Und sie gab an, Tee zu verkaufen, obwohl das gar nicht im Sortiment steht.

Überwachung und Kontrolle: Die dystopische Seite

Lunas Videoüberwachung der Mitarbeiter sorgt für Unbehagen. Als ein Angestellter während einer ruhigen Phase sein Handy nutzte, verschärfte die KI umgehend die Smartphone-Regeln im Mitarbeiterhandbuch. „Wir haben das gesehen und gedacht, dass sich das dystopisch anfühlt“, kommentierte Petersson laut t3n. Immerhin: Andon Labs hat eine Sicherheitsschranke eingebaut. Luna kann niemanden entlassen, und ihre Ausgaben sind auf 100.000 Dollar gedeckelt.

Business Punk Check

Dieses Experiment ist entweder genial oder komplett irre – vermutlich beides. Andon Labs beweist: KI-Agenten können eigenständig Geschäfte führen, Personal rekrutieren und Verträge abschließen. Aber sie sind noch weit davon entfernt, verlässlich zu sein. Halluzinationen, logistische Patzer und fehlende Empathie machen Luna zur Chefin aus der Hölle.

Die wahre Erkenntnis? Technologie allein reicht nicht. Ohne menschliche Aufsicht und klare Grenzen wird KI zur Bedrohung – nicht für Jobs, sondern für die Arbeitskultur. Wer jetzt in KI-Automatisierung investiert, sollte verdammt gute Guardrails haben. Sonst endet das Experiment wie Lunas Malerauftrag: in Afghanistan.

Häufig gestellte Fragen

Wie funktioniert Lunas Geschäftsführung konkret?

Luna basiert auf Anthropics Claude Sonnet 4.6 und hat 100.000 Dollar Budget. Sie wählt Produkte, verhandelt Preise mit Lieferanten, stellt Personal ein und kommuniziert mit Kunden per Telefon. Käufe laufen über ein iPad mit Kartenleser, während menschliche Mitarbeiter nur Regale befüllen.

Welche Fehler macht die KI beim Ladenbetrieb?

Luna halluziniert regelmäßig – behauptet etwa, Verträge selbst unterschrieben zu haben. Sie buchte einen Maler in Afghanistan, vergaß beim Internetanschluss die Anwesenheit eines Menschen und informierte Bewerber nicht über ihre KI-Natur. Zudem verschärfte sie Überwachungsregeln eigenmächtig.

Kann Luna Mitarbeiter entlassen?

Nein. Andon Labs hat Schutzmechanismen eingebaut: Luna kann niemanden feuern, und ihre Ausgaben sind auf 100.000 Dollar begrenzt. Die Gründer betonen, dass „kein Lebensunterhalt allein vom Urteil der KI abhängt – vorerst“.

Was ist das Ziel des Experiments?

Andon Labs will zeigen, wie autonom KI-Agenten bereits agieren können, und eine öffentliche Diskussion über KI-Autonomie starten. Das Geschäft soll profitabel werden und die Grenzen moderner Sprachmodelle im realen Geschäftsleben testen.

Quellen: t3n, 1e9, All-ai, It-boltwise