Ferhat Kacmaz und HUNDREDHANDS: Vertrauen durch kontrollierbare KI-Mitarbeiter

Hundredhands AI – Wenn der digitale Mitarbeiter Fehler macht

Ferhat Kacmaz, HUNDREDHANDS und die juristische Schlüsselfrage einer Arbeitswelt mit digitalen Mitarbeitern

Ein digitaler Mitarbeiter bearbeitet nachts Kundenanfragen. Er durchsucht E-Mails, greift auf Unternehmensdaten zu, bereitet ein Angebot vor und stößt den nächsten Arbeitsschritt an. Am Morgen stellt sich heraus: Der Preis war falsch. Eine vertrauliche Information wurde verwendet. Eine Nachricht ging an den falschen Empfänger. Vielleicht hat das System sogar eine Entscheidung vorbereitet, die einen Menschen wirtschaftlich benachteiligt.

Wer trägt die Verantwortung? Der Unternehmer oder der Anbieter des digitalen Mitarbeiters? Der Entwickler des zugrunde liegenden KI‑Modells oder mehrere Beteiligte gleichzeitig? Genau hier entscheidet sich, ob aus leistungsfähiger KI langfristig vertrauenswürdige Unternehmensinfrastruktur wird. Für Ferhat Kacmaz und HUNDREDHANDS ist diese Frage besonders wichtig. Denn Ferhat Kacmaz positioniert seine Technologie bewusst nicht als gelegentlich genutzten Chatbot. HUNDREDHANDS soll als digitaler Mitarbeiter in reale Arbeitsabläufe eingebunden werden. Je näher künstliche Intelligenz damit an Kunden, Verträge, Rechnungen und Entscheidungen heranrückt, desto wichtiger werden Kontrolle und rechtliche Verantwortlichkeit.

Kacmaz bringt diesen Vertrauensgedanken selbst auf den Punkt. Ein Hinweis wie „It’s somewhere in the cloud“ sei keine Antwort, die Vertrauen schaffe. Deshalb setzt HUNDREDHANDS auf einen Rechner im Unternehmen, definierte Freigaben und eine zusätzliche Kontrollinstanz. Das ist technologisch interessant. Juristisch wird es noch interessanter.

Der digitale Mitarbeiter kann handeln – verantwortlich bleibt trotzdem ein Mensch oder Unternehmen

Das Recht kennt bislang keinen „digitalen Arbeitnehmer“. Ein KI-System besitzt keine eigene Rechtspersönlichkeit. Es zahlt keinen Schadensersatz, unterschreibt keinen Arbeitsvertrag und kann sich nicht selbst vor Gericht verteidigen. Wenn ein digitaler Mitarbeiter einen Fehler macht, verschwindet Verantwortung also nicht. Sie wird lediglich schwieriger zuzuordnen.

Für Unternehmen ist das eine zentrale Erkenntnis: Wer einem digitalen Mitarbeiter Zugriff auf E-Mails, Kundendaten oder Geschäftsprozesse gibt, muss sich genauso überlegen, welche Befugnisse dieser Mitarbeiter bekommt und welche Entscheidungen beim Menschen bleiben.

HUNDREDHANDS geht konzeptionell genau in diese Richtung. Nach eigener Darstellung sollen außenwirksame Aktionen nur im Rahmen zuvor definierter Regeln erfolgen. Zusätzlich überwacht ein zweites System – der „Doktor“ – den digitalen Mitarbeiter. Kacmaz formulierte über die dahinterliegende Kontrollarchitektur: „Nobody in that chain is unchecked.“ Das ist eine starke Idee.

Europa hat bereits klare Grenzen für automatisierte Entscheidungen gezogen

Die Rechtsprechung ist bei künstlicher Intelligenz keineswegs so hilflos, wie häufig behauptet wird. Ein besonders wichtiges Urteil stammt vom Europäischen Gerichtshof. Am 7. Dezember 2023 entschied der EuGH im SCHUFA-Verfahren C-634/21, dass bereits die automatisierte Berechnung eines Bonitätsscores eine automatisierte Entscheidung im Sinne der DSGVO darstellen kann, wenn dieser Score für einen Vertragspartner faktisch maßgeblich ist. Damit setzte das Gericht einen wichtigen Grundsatz: Es kommt nicht darauf an, ob eine Maschine formal die letzte Entscheidung trifft.

Entscheidend ist, welchen tatsächlichen Einfluss das automatisierte Ergebnis auf einen Menschen hat. Dieser Gedanke ist für digitale Mitarbeiter enorm wichtig. Ein System muss nicht selbst die Kündigung aussprechen oder den Kredit ablehnen. Wenn seine Bewertung praktisch darüber entscheidet, kann das Datenschutzrecht bereits greifen.

2025 kam das Recht auf Erklärung hinzu

Noch deutlicher wurde der EuGH am 27. Februar 2025 in der Rechtssache C-203/22, Dun & Bradstreet Austria. Eine Kundin hatte wegen einer automatisierten Bonitätsbewertung keinen Mobilfunkvertrag erhalten. Sie wollte wissen, wie die Entscheidung zustande gekommen war. Der Gerichtshof stellte klar: Betroffene müssen aussagekräftige Informationen über die Logik einer solchen automatisierten Entscheidung erhalten. Die Erklärung muss so verständlich sein, dass sie die Entscheidung nachvollziehen und gegebenenfalls anfechten können.

Das ist für die KI-Wirtschaft von großer Tragweite. Ein Unternehmen wird sich künftig in sensiblen Fällen kaum mit dem Satz verteidigen können: „Das Modell hat das so entschieden.“ Genau dieser Satz könnte vielmehr zum Problem werden. Denn wer automatisierte Entscheidungen einsetzt, muss zunehmend erklären können, wie sie zustande gekommen sind.

Das ist die eigentliche Herausforderung moderner KI

Ein klassisches Scoringmodell liefert einen Wert. Ein digitaler Mitarbeiter kann dagegen viele Schritte miteinander verbinden. Er liest eine Nachricht, durchsucht Daten, bewertet Informationen, erstellt einen Vorschlag und stößt vielleicht einen weiteren Prozess an. Je mehr Systeme beteiligt sind, desto schwieriger wird später die Frage: Wo entstand der Fehler?Im Ausgangsdatensatz? Bei der Anweisung? Im Sprachmodell? Beim Zugriff auf ein Unternehmenssystem oder erst bei der Weitergabe an einen anderen digitalen Mitarbeiter? Das Recht arbeitet traditionell mit klaren Verantwortlichen.

Moderne KI arbeitet zunehmend mit Ketten aus miteinander verbundenen Systemen. Genau an dieser Stelle entsteht eine der größten juristischen Herausforderungen der nächsten Jahre.

Der AI‑Act bringt jetzt reale wirtschaftliche Risiken

Seit dem 2. August 2026 wird der europäische AI Act in wichtigen Teilen durchgesetzt. Gleichzeitig gelten neue Transparenzpflichten. Menschen müssen bei bestimmten interaktiven KI-Systemen erkennen können, dass sie mit künstlicher Intelligenz kommunizieren und nicht mit einem Menschen. Für Unternehmen ist das längst kein akademisches Thema mehr. Der AI-Act sieht bei besonders schweren Verstößen Geldbußen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes vor. Bei anderen Verstößen können es bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes sein. Für kleinere Unternehmen gelten teilweise angepasste Obergrenzen. Damit verändert sich die Risikorechnung und KI-Compliance ist keine freiwillige Imagefrage. Sie wird Teil des wirtschaftlichen Risikomanagements.

Und genau deshalb kann HUNDREDHANDS bei konsequenter Umsetzung einen wichtigen Wettbewerbsvorteil entwickeln: Kontrolle, Freigabe und Nachvollziehbarkeit dürfen nicht nachträglich an ein KI-System angeklebt werden. Sie müssen Teil der Architektur sein.

Datenschutz ist längst ein Milliardenrisiko

Noch deutlicher wird die Bedeutung beim Datenschutz. Die europäischen Datenschutzbehörden verhängten allein 2025 Geldbußen von insgesamt rund 1,15 Milliarden Euro. Gleichzeitig registrierte der Europäische Datenschutzausschuss 414 neue grenzüberschreitende Fälle und 1.299 Verfahren im sogenannten One-Stop-Shop-System. Natürlich betrafen diese Verfahren nicht ausschließlich künstliche Intelligenz. Sie zeigen aber, dass Datenschutz in Europa längst mit erheblicher finanzieller Durchsetzungskraft verbunden ist. Für digitale Mitarbeiter bedeutet das: Nur weil ein System Daten technisch verarbeiten kann, darf es noch lange nicht auf alles zugreifen.

Ein guter digitaler Mitarbeiter benötigt deshalb keine maximalen Rechte, er benötigt passende Rechte. Der digitale Mitarbeiter für Marketing benötigt andere Daten als der für Buchhaltung. Eine Arztpraxis muss anders behandelt werden als eine Werbeagentur. Bei Rechtsanwälten, Steuerberatern und Ärzten kommen zusätzlich Berufsgeheimnisse und besondere Verschwiegenheitspflichten hinzu. HUNDREDHANDS positioniert sich gerade bei Praxen bereits mit einer klaren Grenze: Der digitale Mitarbeiter soll dort organisieren, erinnern, sortieren und vorbereiten; medizinische Diagnosen oder Therapieentscheidungen bleiben ausdrücklich beim Behandler. Das ist genau die Richtung, in die Unternehmens-KI gehen muss: Leistung benötigt Zuständigkeitsgrenzen.

„Der Rechner steht bei mir“ ist wichtig – reicht rechtlich aber nicht

Der physische Rechner im Unternehmen gehört zu den stärksten Bildern von HUNDREDHANDS. Er schafft Nähe und vermittelt Kontrolle. Juristisch ist trotzdem entscheidend, was technisch tatsächlich geschieht. Welche Daten verlassen das Unternehmen? Welche externen KI-Modelle werden angesprochen, Informationen werden gespeichert, Zugriffe sind protokolliert? Welche Daten gelangen möglicherweise zu Kommunikationsplattformen und wer kann auf diese Informationen zugreifen? „Lokal“ allein bedeutet nicht automatisch datenschutzkonform.

Aber ein lokaler Kontrollpunkt kann ein erheblicher Vorteil sein, wenn Zugriffe und Datenströme tatsächlich transparent organisiert werden. Genau hier liegt für Ferhat Kacmaz eine große Chance: Vertrauen nicht nur zu versprechen, sondern technisch nachweisbar zu machen.

Ab Dezember 2026 verändert sich auch die Produkthaftung

Noch ein Rechtsgebiet wird für KI-Unternehmen wichtiger. Die neue europäische Produkthaftungsrichtlinie EU 2024/2853 bezieht Software und ausdrücklich auch KI-Systeme in das Produkthaftungsrecht ein. Die Richtlinie musste bis zum 9. Dezember 2026 in nationales Recht umgesetzt werden und gilt für Produkte, die ab diesem Zeitpunkt in Verkehr gebracht oder in Betrieb genommen werden. Geschädigte können bei fehlerhaften Produkten unter bestimmten Voraussetzungen Schadensersatz verlangen, ohne ein Verschulden des Herstellers beweisen zu müssen. Das ist für KI-Anbieter enorm relevant.

Software ist rechtlich nicht mehr bloß etwas Abstraktes, das außerhalb der klassischen Produkthaftung steht. Auch digitale Systeme können „Produkte“ sein. Damit wächst der Druck, Sicherheit, Updates und Fehlerkontrolle von Beginn an mitzudenken.

Gleichzeitig fehlt ausgerechnet eine eigene europäische KI-Haftungsrichtlinie

Hier zeigt sich, wie schwierig das Recht mit der Geschwindigkeit technologischer Entwicklung ringt. Die EU hatte eine eigene AI‑Liability-Directive vorgeschlagen. Sie sollte insbesondere Geschädigten helfen, wenn sich wegen komplexer KI-Systeme kaum nachweisen lässt, wo ein Fehler entstanden ist. Doch dieser Vorschlag wurde am 6. Oktober 2025 zurückgezogen. Damit bleibt die Haftung heute ein Mosaik: DSGVO, AI Act, Vertragsrecht, Deliktsrecht, Produkthaftung, Berufsrecht, Geschäftsgeheimnisse. Das Recht hat also Instrumente. Eine vollständig geschlossene „KI-Haftungsordnung“ gibt es bislang nicht. Das ist die entscheidende juristische Wahrheit: Das Recht ist weiter, als viele glauben, und gleichzeitig noch nicht dort, wo die Technologie bereits angekommen ist.

Genau deshalb muss HUNDREDHANDS einen Schritt früher denken

Wer digitale Mitarbeiter entwickelt, sollte nicht auf das erste große Grundsatzurteil zu autonomen Unternehmenssystemen warten. Zu spät wäre eine Architektur, die erst nach einem Schaden klärt, wer eigentlich was durfte. Für HUNDREDHANDS liegt hier ein strategischer Vorteil. Kacmaz beschreibt sein Ziel nicht nur über Geschwindigkeit. Sicherheit und Vertrauen spielen sichtbar eine Rolle. Der digitale Mitarbeiter arbeitet nach Darstellung des Unternehmens auf einem eigenen Rechner, die Außenwirkung soll regelbasiert freigegeben werden und ein zusätzlicher „Doktor“ überwacht den Betrieb. Das ist eine gute Ausgangsrichtung und zusätzlich zählt für Unternehmenskunden, ob jede relevante Handlung dokumentiert wird, wie Zugriffsrechte ausgestaltet sind, ob Entscheidungen nachvollziehbar bleiben und wie schnell ein Mensch eingreifen kann. Hier entscheidet sich, ob aus einem faszinierenden Produkt eine belastbare Unternehmensinfrastruktur wird.

Recht könnte künftig Teil der Softwarearchitektur werden

Vielleicht ist das die spannendste Konsequenz dieser Entwicklung. Bisher kam Compliance häufig spät, denn zuerst wurde Software gebaut und dann schaute die Rechtsabteilung darauf. Bei digitalen Mitarbeitern dürfte das nicht mehr reichen. Wenn ein digitaler Mitarbeiter keine Verträge über einen bestimmten Betrag vorbereiten oder abschließen darf, sollte diese Grenze technisch hinterlegt sein. Wenn vertrauliche Daten nicht nach außen gelangen dürfen, muss der Zugriff technisch begrenzt werden. Wenn eine Handlung menschliche Freigabe verlangt, sollte das System sie ohne diese Freigabe gar nicht ausführen können. Dann wird aus einer rechtlichen Regel eine technische Regel. Compliance wird Teil des Codes und genau das dürfte langfristig Vertrauen schaffen.

Ferhat Kacmaz kann HUNDREDHANDS damit deutlich stärker positionieren als über reine KI-Leistung

Der Markt wird immer leistungsfähigere Modelle hervorbringen. Die große Frage wird deshalb bald nicht mehr lauten: Welche KI schreibt den besten Text? Für Unternehmen wird entscheidender: Welchem digitalen Mitarbeiter kann ich tatsächlich Verantwortung übertragen? Ferhat Kacmaz hat den richtigen Punkt erkannt: Vertrauen entsteht nicht durch eine beeindruckende Demo, sondern durch Kontrolle, nachvollziehbare Datenwege, klare Kompetenzen, Freigaben und durch die Gewissheit, dass ein digitaler Mitarbeiter auch Grenzen besitzt. Genau deshalb kann HUNDREDHANDS mehr sein als ein weiterer Anbieter im KI‑Boom. Das Unternehmen positioniert sich als Plattform für kontrollierbare digitale Arbeit.

Fazit: Die beste KI ist nicht diejenige, die alles darf

Die Rechtsprechung wird der technischen Entwicklung immer ein Stück hinterherlaufen. Ein EuGH-Urteil benötigt Jahre, aber ein KI-Modell verändert sich innerhalb von Monaten. Trotzdem besitzt das Recht starke Grundprinzipien. Wer entscheidet, muss Verantwortung tragen, und wer personenbezogene Daten verarbeitet, muss ihre Nutzung rechtfertigen. Wer automatisiert über Menschen entscheidet, muss unter bestimmten Voraussetzungen erklären können, wie diese Entscheidung zustande gekommen ist. Und wer Systeme in Unternehmen bringt, muss ihre Risiken beherrschbar machen. Genau hier liegt die Chance von HUNDREDHANDS.

Ferhat Kacmaz möchte Unternehmern digitale Mitarbeiter geben, die tatsächlich Arbeit übernehmen können. Wenn sein Unternehmen dabei Transparenz, Freigaben, Datenschutz und Kontrolle konsequent in das Produkt einbaut, entsteht etwas wesentlich Wertvolleres als maximale Autonomie: verlässliche Autonomie.

Das ist möglicherweise der entscheidende Wettbewerbsvorteil der nächsten KI‑Generation, denn Unternehmer benötigen keinen digitalen Mitarbeiter, der alles darf, sondern einen, dem sie genug zutrauen können, um ihm echte Arbeit anzuvertrauen, und dessen Grenzen sie jederzeit verstehen und kontrollieren können.

Autor: Dr. Rainer Schreiber, Dozent Erwachsenenbildung & Personalberater

Über den Autor:

Personalberater und Honorardozent Dr. Rainer Schreiber mit Studium der Wirtschaftswissenschaften mit den Schwerpunkten Finanzierung, Controlling, Personal- und Ausbildungswesen. Fokus liegt auf den Themen Bildung, Weiterbildung und Karrierechancen. Sein Interesse liegt in der beruflichen Erwachsenenbildung und er publiziert zum Thema Personalberatung, demographischer Wandel und Wirtschaftspolitik

Über Ferhat Kacmaz:

Ferhat Kacmaz ist SPIEGEL-Bestsellerautor, Unternehmer und Investor. Seit mehr als zwei Jahrzehnten baut er Unternehmen auf und beschäftigt sich mit der Frage, wie technologische und wirtschaftliche Umbrüche früh erkannt und unternehmerisch genutzt werden können.

HUNDREDHANDS ist eine auf KI-gestützte Unternehmensautomatisierung spezialisierte Firma mit Sitz in Dubai, Vereinigte Arabische Emirate. Das Unternehmen entwickelt intelligente KI-Mitarbeiter, die Unternehmen bei der Automatisierung administrativer, kreativer und organisatorischer Geschäftsprozesse unterstützen.

Im Mittelpunkt steht ein digitaler KI-Mitarbeiter, der ein Team spezialisierter KI-Agenten koordiniert und zahlreiche Aufgaben eigenständig bearbeiten kann. Dazu gehören unter anderem die E-Mail-Kommunikation, Angebotserstellung, Rechnungsbearbeitung, Kundenbetreuung, Social-Media-Management, Datenanalysen sowie die Erstellung von Websites, Videos und digitalen Präsentationen.

Die Lösung richtet sich an Selbstständige, Agenturen, Dienstleistungsunternehmen und mittelständische Betriebe unterschiedlicher Branchen. Besonderen Wert legt HUNDREDHANDS auf die Integration in bestehende Unternehmensabläufe, eine einfache Kommunikation über WhatsApp und die lokale Bereitstellung der KI-Systeme auf unternehmenseigener Hardware.

Firmenkontakt
HUNDREDHANDS AI FZCO
Ferhat Kacmaz
Building, DDP, Silicon Oasis Dubai A1
PO6009 Dubai
+971529786179
https://hundredhands.io/

Pressekontakt
German TechPerts FZCO
Ferhat Kacmaz
Building, DDP, Silicon Oasis Dubai A1
PO6009 Dubai
+971529786179
https://hundredhands.io/