Ethische Leitlinien für Künstliche Intelligenz Neue KI-Methoden für Smart-Living-Anwendungen: Das BMWK-geförderte Projekt "Foresight" rückt bei der Entwicklung den Menschen in den Fokus

Schon bald könnte jeder von uns in einem Haus oder einer Wohnung mit KI-basiertem, elektronischem Pförtner leben. Dieser Pförtner lässt Handwerks-, Liefer- und Postdienste ein, wenn wir nicht zu Hause sind. Er achtet darauf, dass nur die Räume betreten werden, die wir etwa für Handwerker freigegeben haben. Auch Anweisungen gibt der Pförtner weiter und nimmt umgekehrt Nachrichten für uns entgegen. So wünschenswert solch ein intelligenter Pförtner für viele von uns wäre, wirft er doch auch Fragen auf.

In Kürze Wie kann gewährleistet werden, dass das System nicht missbraucht wird oder die Technik „eigensinnig“ entscheidet?

Wie kann sichergestellt werden, dass das System nicht missbraucht wird und sich jemand unbefugt Zutritt verschafft? Wo und wie werden die Daten gespeichert, die zur Ausführung dieses smarten Dienstes verarbeitet werden? Entscheidet wirklich immer der Mensch, wer ins Gebäude darf, oder besteht die Gefahr, dass die programmierte handelnde Technik auch „eigensinnig“ und ohne Rücksicht auf Menschen entscheidet und womöglich diskriminiert? Wie weit darf eine KI-Unterstützung gehen, ehe sie zur Bevormundung wird?

Der Mensch im Mittelpunkt der Technik-Entwicklung hin zu „Smart Living“

Das vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) im Rahmen des KI-Innovationswettbewerbs geförderte Projekt ForeSight bezieht diese und weitere ethische Fragestellungen in die Entwicklung, Erprobung und Anwendung von Smart-Living-Services mit ein. Der Begriff Smart Living umfasst dabei alle smarten Dienste im Gebäudesektor. Sie reichen vom smarten Energiemanagement für den effizienten Betrieb von Heizung, Kühlung und Lüftung über smarte Gebäudebewirtschaftung für die automatisierte Überwachung und Bewertung von Wartungs- und Betriebsaufgaben bis hin zu smarten Assistenzangeboten, z. B. für altersgerechtes Wohnen. Das Projekt entwickelt eine Plattform und führt dort die wesentlichen Akteure des Themenfelds zusammen: Wohnungswirtschaft, Elektroindustrie, Digitalwirtschaft, Technologieanbieter für Gebäude, Verbände, Wissenschaft und Handwerk. Ziel ist es, zukunftsweisende Möglichkeiten für einen wirtschaftlichen Betrieb am Gebäude auf Basis der Künstlichen Intelligenz (KI) aufzuzeigen.

Ethik-Kodex für vertrauenswürdige KI

Smart-Living-Technologien bieten nicht nur mehr Komfort, sie schützen auch das Klima durch Steigerung der Energieeffizienz von Gebäuden. Damit ein solcher Vorteil auch zum Einsatz kommt, müssen Smart-Living-Anwendungen von den Menschen im Alltag akzeptiert werden und vertrauenswürdig sein. Menschen sollten die Vorteile und auch mögliche Risiken richtig einschätzen können. Das gelingt dann am besten, wenn schon im frühen Stadium der Entwicklung von Smart-Service-Diensten die Bedürfnisse der Menschen einbezogen werden.

ForeSight hat einen Ethik-Kodex entwickelt, der die Menschen in den Mittelpunkt der Technikentwicklung stellt. Der Kodex beruht zum einen auf den „Ethik-Leitlinien für eine vertrauenswürdige KI“, die die Europäischen Kommission in Auftrag gegeben hat, zum anderen auf den „Algo. Rules“, einem Praxisleitfaden der Bertelsmann- Stiftung. Den Regelwerken ist gemeinsam, dass sie auf ethische Grundsätze zielen, die von KI-Systemen eingehalten werden müssen: Achtung der menschlichen Autonomie, Schadensverhütung sowie Fairness und Erklärbarkeit. Der Kodex von ForeSight gibt Entwickelnden sieben Kern-Indikatoren vor, die bei Smart Living zu überprüfen sind.

Sieben ethische Indikatoren für KI

1. Vorrang menschlichen Handelns und menschlicher Aufsicht

Die Technik darf nie das Sagen haben. Eine Bevormundung des Menschen durch KI muss ausgeschlossen sein. Aus diesem Indikator ergibt sich zugleich, dass Künstliche Intelligenz auch nicht von sich aus ethisch sein kann. Einen wie auch immer gearteten „Ethik-Algorithmus“, der errechnet, was ethisch und was unethisch ist, kann es daher nicht geben. Ethisches Verhalten ist zwischen Menschen zu verhandeln und kann nicht von „der Maschine“ vorgegeben werden.

In Kürze Mensch vor Maschine: Eine Bevormundung durch Künstliche Intelligenz (KI) ist auf jeden Fall zu vermeiden.

2. Technische Robustheit und Sicherheit

KI muss verlässlich sein und vor Schaden behüten. Der intelligente Pförtner muss beispielsweise sicher identifizieren können, wer ins Gebäude darf und wer nicht.

3. Schutz der Privatsphäre und Datenqualitätsmanagement

Datenschutz und Persönlichkeitsrechte sind zu wahren. Die Daten sind auch auf ihre Integrität zu überprüfen, etwa ob sie dazu verwendet werden, unrechtmäßig oder unfair zu diskriminieren.

4. Transparenz und Erklärbarkeit

Daten und Prozesse von KI müssen rückverfolgbar und erklärbar sein. Die Transparenz bedeutet, dass bei Eingabe gleicher Daten und gleicher KI-Algorithmen in ein System am Schluss auch immer das gleiche Ergebnis produziert wird. Damit lassen sich Ergebnisse konsistent nachvollziehen und können Nutzerinnen und Nutzern erklärt werden.

5. Vielfalt, Nichtdiskriminierung und Fairness

Alle betroffenen Interessenvertreter sind zu berücksichtigen und einzubeziehen. Kein Mensch darf aufgrund seines kulturellen, religiösen oder geschlechtlichen Hintergrundes benachteiligt werden. Der Zugang zur Nutzung der Dienste muss gleichberechtigt und diskriminierungsfrei sein.

6. Gesellschaftliches und ökologisches Wohlergehen

Es gilt zu überprüfen, welche Auswirkung KI-Systeme auf Gesellschaft und Umwelt haben.

Der „intelligente Pförtner“ prüft, wer ins Gebäude darf und wer nicht.

7. Rechenschaftspflicht

Damit die Fairness von KI-Systemen gewährleistet wird, muss geklärt sein, wer für KI-Systeme und deren Ergebnisse verantwortlich ist und rechtlich zur Rechenschaft gezogen werden kann.

Aus diesen Indikatoren ergibt sich für den Bereich Smart Living zudem, dass Menschen bei der Nutzung smarter Dienste im Wohn- und Arbeitsbereich nicht eingeschränkt werden dürfen. Daher sind immer auch Alternativen anzubieten. Es darf beispielsweise auch keinen Zwang zur Nutzung eines intelligenten Pförtners geben. Die ethischen Leitlinien werden auf alle künftigen Projekte im Rahmen von ForeSight angewendet und sollen kontinuierlich weiterentwickelt werden.

MEHR ZUM THEMA Weitere Informationen unter: www.foresight-plattform.de Informationen zu diesem und weiteren vom BMWK im Rahmen des KI-Innovationswettbewerbs geförderten Projekten: www.digitale-technologien.de schlaglichter@bmwk.bund.de