Künstliche Intelligenz (KI) kann die Effizienz und Genauigkeit von Analysen erheblich steigern, indem sie grosse Datenmengen schneller und präziser verarbeitet als es manuell möglich wäre. Algorithmen des maschinellen Lernens können Muster und Zusammenhänge erkennen, die für Menschen oft nur schwer zu identifizieren sind. Jedoch gehen mit der Implementierung von KI-Technologien auch Herausforderungen und Risiken einher, die nicht unbeachtet bleiben dürfen.

Dieser Fachbeitrag widmet sich einer Auswahl von Herausforderungen und Risiken im Zusammenhang mit dem Einsatz von KI im Bereich der Business Analyse und im Requirements Engineering (BARE). Anhand eines konkreten Use Cases (Anforderungserhebung aus schriftlichen Dokumentationen) zeigen wir Ihnen auf, wie Sie mit den Herausforderungen umgehen und Risiken minimieren können.

Mehr zu den Chancen und Möglichkeiten von KI im Bereich BARE erfahren Sie im ersten Fachbeitrag dieser Beitragsserie: KI und BARE: Chancen erkennen und Möglichkeiten nutzen.

Die Bedeutung der Datenqualität

Bei der Erhebung von Anforderungen, beispielsweise anhand von bereits vorhandenen schriftlichen Dokumentationen, spielt die Datenqualität eine entscheidende Rolle. Die Qualität des KI-Outputs kann nur so gut sein wie die des vorgelagerten User-Inputs. Sind die Informationen, welche der KI zu Verfügung gestellt werden, unvollständig und/oder inkonsistent, kann dies dazu führen, dass die KI fehlerhafte, unvollständige oder widersprüchliche Anforderungen identifiziert und dadurch falsche Annahmen trifft oder wichtige Anforderungen übersieht.

Um dieses Risiko zu minimieren, führen Sie vorgängig eine Datenvalidierung und -bereinigung durch. Verfolgen Sie bei der Anforderungserhebung einen iterativen Ansatz und bauen Sie Feedbackschleifen mit den relevanten Stakeholdern ein. Prüfen Sie die Informationen auf Vollständigkeit und Konsistenz. Dieser Vorgang kann beispielsweise durch manuelle Reviews erfolgen. Ziehen Sie nach Möglichkeit Fachexpert:innen hinzu, welche vorgängig sicherstellen, dass alle relevanten Informationen erfasst und widersprüchliche Anforderungen identifiziert sind. Auch in diesem Zusammenhang ist ein Einsatz von KI möglich, um die Anforderungen auf deren Konsistenz zu überprüfen. Die Systeme können Anomalien und Inkonsistenzen in den Dokumentationen erkennen und darauf verweisen.

Datenschutz richtig umsetzen

Ein weiteres zentrales Risiko beim Einsatz von KI im Bereich BARE sind der Datenschutz und die Datensicherheit. Da KI-Systeme häufig grosse Mengen an Daten verarbeiten und analysieren, besteht die Gefahr, dass personenbezogene und/oder sensible Informationen unbeabsichtigt offengelegt oder missbraucht werden. Dies kann schwerwiegende rechtliche Konsequenzen nach sich ziehen, insbesondere wenn personenbezogene Daten oder vertrauliche Unternehmensinformationen involviert sind.

Prüfen Sie darum vor dem Einsatz von KI-Systemen sorgfältig die Nutzungsbestimmungen und Datenschutzrichtlinien des KI-Providers. Es ist wichtig zu verstehen, wie die Daten von der KI verarbeitet, gespeichert und geschützt werden. Achten Sie darauf, ob der KI-Provider sich an geltende Datenschutzgesetze hält und entsprechende Sicherheitsmassnahmen implementiert hat.

Stellen Sie sicher, dass keine vertraulichen Unternehmensinformationen, Geschäftsgeheimnisse oder Informationen, welche Geheimhaltungs- oder Verschwiegenheitspflichten unterliegen, in die KI-Systeme eingegeben werden. Sensible Daten sollten strikt geschützt und nur für den vorgesehenen Zweck verwendet werden. Verwenden Sie Bei der Nutzung von KI-Systemen keinesfalls personenbezogenen Daten (z. B. Namen oder Adressen von Kund:innen) bzw. ersetzen Sie diese Angaben durch entsprechende Platzhalter. Stellen Sie sicher, dass anonymisierte und nicht bloss pseudoanonymisierte Daten verwendet werden, um das Risiko einer unbefugten Datenverarbeitung oder eines Datenmissbrauchs zu verhindern. Dieses Vorgehen reduziert die Gefahr von Datenschutzverletzungen und hilft, gesetzliche Anforderungen zu erfüllen.

Viele KI-Systeme nutzen die bereitgestellten Daten der User:innen, um ihre Algorithmen zu trainieren und zu verbessern. Deaktivieren Sie nach Möglichkeit diese Trainingsfunktion, um zu verhindern, dass sensible Daten in den Trainingsprozess einfliessen und möglicherweise in anderen Kontexten verwendet werden. Bei ChatGPT kann bspw. eine Privacy Request im OpenAI Portal gestellt werden. Beachten Sie, dass trotz dieser Privacy Request weiterhin gewisse Daten weitergegeben werden.

Qualitätssicherung: Mensch und KI im Zusammenspiel

Ein wesentlicher Aspekt des Requirements Engineerings ist die Nachvollziehbarkeit der Anforderungen. Jede Anforderung muss klar und verständlich dokumentiert und die Ursprünge und Gründe für ihre Formulierung nachvollziehbar sein. KI kann in diesem Zusammenhang als «Black Box» agieren, bei welcher der Prozess zwischen User-Input und KI-Output nicht transparent offengelegt wird. Wenn die Entscheidungen und Empfehlungen einer KI nicht transparent sind, kann dies zu Akzeptanzproblemen bei den Stakeholdern führen und damit die Fähigkeit beeinträchtigen, die Qualität und Richtigkeit der Anforderungen zu beurteilen.

Daher empfiehlt es sich, die KI-gestützte Anforderungsaufnahme mit traditionellen Methoden zu kombinieren. Ein hybrider Ansatz, bei dem die Ergebnisse der KI durch kritische menschliche Überprüfung ergänzt werden, kann dazu beitragen, die Nachvollziehbarkeit zu erhöhen und sicherzustellen, dass die Anforderungen präzise und nachvollziehbar sind. Fachexpert:innen können die von der KI generierten Anforderungen validieren und sicherstellen, dass diese korrekt und vollständig sind. Sie können auch helfen, unklare Entscheidungen der KI zu interpretieren und zu erklären.

Des Weiteren bietet sich das Zurückgreifen auf erklärbare KI-Modelle (XAI) (1) an, die transparente Entscheidungsprozesse ermöglichen. XAI bietet Mechanismen, die es ermöglichen, die Entscheidungen und Empfehlungen der KI nachzuvollziehen und zu interpretieren. Diese Modelle helfen dabei, die Grundlage für die erhobenen Anforderungen klar zu kommunizieren.

Wichtig ist, dass Entscheidungen und Empfehlungen der KI detailliert dokumentiert werden. Dies umfasst die zugrunde liegenden Daten, die verwendeten Algorithmen und die spezifischen Gründe für die getroffenen Entscheidungen. Eine solche Dokumentation stellt wiederum sicher, dass die Anforderungen nachvollziehbar und überprüfbar sind. Da diese Art der Dokumentation schnell sehr umfangreich und zeitaufwendig werden kann, empfiehlt es sich, zumindest eine Schlüsseldokumentation zu erstellen, welche die wichtigsten Aspekte festhält. Dabei kann z. B. auf standardisierte Vorlagen und Checklisten zurückgegriffen werden, um die wichtigsten Informationen zu erfassen, ohne dass jede Entscheidung einzeln dokumentiert werden muss.

Fazit: Ansätze zur Effizienzsteigerung bei gleichzeitiger Risikominimierung

KI bietet erhebliche Vorteile in der Effizienz- und Genauigkeitssteigerung, jedoch müssen wesentliche Herausforderungen gemeistert werden. Die Qualität der Daten ist von entscheidender Bedeutung, weshalb sorgfältige Datenvalidierung und der Einsatz von Fachexpert:innen unerlässlich sind. Der Datenschutz stellt einen kritischen Aspekt dar, der durch die Prüfung von Nutzungsbestimmungen, Anonymisierung von Daten und den Schutz vertraulicher Informationen sichergestellt werden kann. Schliesslich ist die Nachvollziehbarkeit von KI-Entscheidungen, welche oft als «Black Box» gilt, ein zentrales Thema, welche durch den Einsatz erklärbarer KI-Modelle, hybriden Anforderungsaufnahme-Methoden und detaillierter Dokumentation verbessert werden kann.

Die Umsetzung dieser Massnahmen leistet einen Beitrag zur effektiven Bewältigung der Risiken und Herausforderungen der KI-Integration im Bereich BARE und damit einen Beitrag zur verantwortungsvollen Nutzung von KI-Systemen.

Möchten Sie sich gerne mit uns zu diesem spannenden Thema austauschen oder noch mehr zu KI in Business Analyse und im Requirements Engineering erfahren? Dann freuen wir uns auf Ihre Kontaktaufnahme!

Ihre Ansprechpersonen

Kontaktieren Sie uns

Haben Sie Fragen zu unseren Dienstleistungen? Kontaktieren Sie uns per Kontaktformular. Unsere Expert:innen melden sich in Kürze bei Ihnen.