Zum Inhalt springen

Mensch-Maschine-Abgrenzung in Daten-Ökosystemen

Nur Menschen übernehmen Verantwortung für ihr Handeln auf Grundlage der innerhalb ihrer Lebensrealität erfahrbaren bzw. kalkulierbaren Risiken.
27. Juli 2026 durch
Mensch-Maschine-Abgrenzung in Daten-Ökosystemen
Matthias Bendel

Leblose Dinge sind demnach außerhalb dieser einfachen Regel zu verorten – also jegliche Hard- und Software oder auf künstlicher Intelligenz basierende Systeme.

Ein grundsätzlicher "Webfehler"?

Ich vertrete hierzu in meiner Beratung und in Team-Coachings folgende Thesen, die zu schlankeren und wirksameren, vor allem aber vertrauenswürdigeren Prozessen beitragen sollen:

  • Nachhaltige Lösungen, Anwendungen oder Projektergebnisse können nur im Einklang der Faktoren Mensch, Prozess und Technologie entstehen.
  • Prozesse sind hierbei lediglich die Delegation menschlicher Verantwortung an andere Menschen, unter der Kommunikation eines definierbaren Vertrauens in eine konstruktive Zusammenarbeit (planbar, anwendbar, beherrschbar und entscheidbar), unterstützt durch geeignete Mittel, zuverlässige Werkzeuge und fundierte Methoden (Technologie).
  • Die Faktoren bzw. Kompetenzen Verantwortung und Vertrauen sind ausschließlich Menschen (natürlichen Personen) vorbehalten und nicht an leblose Maschinen, Werkzeuge oder Prozesse delegierbar.
  • Akteure in planbaren Prozessen (kalkulierte Risiken) sind stets Rollen oder Funktionen, die nur situativ mit natürlichen Personen besetzt werden. Diese übernehmen auf Grundlage vertraglicher Regelungen bewusst Verantwortung für die Position und deren Handeln („im Auftrag“) sowie die damit verbundenen persönlichen Risiken.
Wenn also die Systemarchitektur unserer Anwendung, Software oder Plattform in der Zusammenarbeit mit anderen keinen Unterschied zwischen dem Menschen und seiner Rolle oder Funktion in der jeweiligen Projektsituation macht, wird alles im wahrsten Sinne des Wortes „persönlich“ – obwohl sich Planung und Anforderungen seitens der Auftraggeber eigentlich nur an die avisierte Rolle, Funktion oder beauftragte Firma richten.

Im Projektauftrag besteht in der Regel nur eine indirekte Vertragsbeziehung zwischen dem Auftraggeber und der beim Vertragspartner (Firma, Gesellschaft oder Personengesellschaft) beschäftigten Person. Die direkte Abbildung der natürlichen Person als Akteur in Prozessen stellt somit einen dem Vertragsverhältnis widersprechenden „Webfehler“ dar.

[Demnach wäre das Konzept persönlicher Akteure innerhalb einer Firma, Institution oder deren IT-Systemen (u. a. SharePoint, Microsoft 365 oder Teams) korrekt, da ihm ein persönliches Vertragsverhältnis (Arbeitsvertrag inklusive Haftung und Risiken) zugrunde liegt. Diese Systeme jedoch unbedacht auf Projektanwendungen zu übertragen, könnte eine Quelle des aus meiner Sicht folgenschweren Denkfehlers sein.]

Mensch-Maschine-Abgrenzung - Verantwortung & Vertauen sind persönlich!

Ich behaupte daher, dass dieses Dilemma in vielen Projekten eine durch Systeme und Software forcierte Quelle von Missverständnissen und Fehlern darstellt. Durch fehlgeleitete Erwartungshaltungen und eine falsche Personalisierung werden Nachvollziehbarkeit und Vertrauen in persönliche Verantwortung geschwächt. Dies kann uns als Menschen in die Irre führen oder sogar gegenüber der notwenigen Differenzierung abstumpfen lassen.

Warum „Mensch-Maschine-Abgrenzung“?

Der vorgenannte „Webfehler“ überträgt eine Beliebigkeit menschlicher Verantwortung auf die Bedeutung des Akteurs innerhalb unserer in IT-Anwendungen verankerten Prozesse. Diese "verdrehten" Prozesse sollen dann im Zuge von Optimierung und Automatisierung zunehmend durch Roboter oder KI-Agenten ausgeführ werden bzw. sich weiter verselbstständigen und beschleunigen?

Wenn die Prinzipien von Verantwortung, Vertrauen und Risiko nur außerhalb der IT-Systeme oder KI-Modelle definiert sind – oder unser Verständnis dieser Begriffe sogar auf fehlerhaften Annahmen basiert, kann eine KI diese nur ignorieren oder fehlinterpretieren.

Eine solche KI wird meines Erachtens zwangsläufig zum Golem unvollständiger, schlimmstenfalls „unmenschlicher“ Denk- und Methodenmodelle.

Wie seht Ihr das? Lässt sich diese Sichtweise in bestehenden Systemen mit der richtigen Herangehensweise bereits heute umsetzen, durch Konfigurationen oder Erweiterungen abbilden, durch Eingriffe in die Systemarchitektur beheben - oder stellt sie manche Lösungen sogar grundsätzlich infrage?

Möglicherweise müssen wir viel grundlegendere Fragen zur Neuordnung unserer Lösungen und deren Agenda stellen – Fragen, die nur selten auf objektiven Bedürfnissen oder gar konstruktiven, gemeinsamen Projektzielen beruhen?!

Digitale Transformation braucht Paradigmenwechsel