NIST führt Rahmenwerk für KI-Risikomanagement ein

Folgen Sie Kryptus auf Google News

NIST

Technologien, die künstliche Intelligenz (KI) nutzen, haben in den letzten Jahren unsere Lebensweise revolutioniert. Trotz der Fortschritte und des Wohlstands, die sie für die Gesellschaft fördern, bringen sie auch eine Reihe von Risiken mit sich, wie etwa voreingenommene und diskriminierende Analysen, den Wegfall bestimmter Arten operativer Arbeit (für deren Ausführung kein Mensch mehr erforderlich ist), Probleme im Zusammenhang mit der Privatsphäre und Datensicherheit oder sogar soziale und psychologische Bedenken, die durch die übermäßige Nutzung von Anwendungen entstehen, die diese Art von Technologie verwenden. Diese und viele andere Risiken können sich negativ auf Einzelpersonen, Gruppen, Gesellschaften oder sogar die Umwelt und den Planeten selbst auswirken.

Im Januar dieses Jahres startete die US-Regierungsbehörde NIST (National Institute of Standards and Technology) eine Initiative für eine Rahmen für das KI-Risikomanagement. Diese Initiative ist das Ergebnis einer 18-monatigen Zusammenarbeit im öffentlichen und privaten Sektor der Gesellschaft, darunter Unternehmen, Regierungsbehörden, Hochschulen und gemeinnützige Organisationen auf der ganzen Welt. Das Framework dient als Leitfaden für Organisationen, die KI-Lösungen entwickeln oder nutzen, damit sie die Risiken bewältigen können, die sich aus dieser Art von Technologie ergeben.

Das Framework besteht aus vier Grundfunktionen: Führung, Kartierung, Medizin e Management. Jede Funktion ist in mehrere Kategorien und Unterkategorien unterteilt, mit spezifischen Maßnahmen, die von Organisationen und Einzelpersonen kontinuierlich während des gesamten Lebenszyklus von KI-Anwendungen ergriffen werden müssen.

Governance

Governance ist das Grundprinzip für das KI-Risikomanagement innerhalb einer Organisation. Einige Beispiele für Aktionen, die die Governance-Funktion ausmachen, sind:

Legen Sie Rollen und Verantwortlichkeiten im Zusammenhang mit anderen Kernfunktionen (Zuordnung, Messung und Verwaltung) fest.
Entwickeln Sie Richtlinien und Verfahren, um die Einhaltung gesetzlicher und regulatorischer Vorschriften bei KI-Anwendungen sicherzustellen.
Richten Sie Tools zum Sammeln, Priorisieren und Berücksichtigen von Feedback aus externen Quellen ein.

Mapemento

Es schafft den Kontext für die Einordnung der mit KI-Anwendungen verbundenen Risiken. Dabei geht es darum, das komplexe Geflecht voneinander abhängiger Aktivitäten zu verstehen, von denen KI-Anwendungen abhängen. Dadurch können KI-Akteure die möglichen Auswirkungen leichter vorhersehen. Die Ergebnisse dieser Funktion speisen die verbleibenden Funktionen (Messung und Verwaltung).

Mediäção

Verwendet quantitative, qualitative oder gemischte Methoden, Werkzeuge, Techniken und Methoden, um die Risiken und Auswirkungen von KI-Anwendungen zu analysieren, zu bewerten, zu vergleichen und zu überwachen. Nutzt das in der Mapping-Funktion identifizierte Wissen über KI-Risiken und informiert die Managementfunktion. KI-Systeme müssen vor ihrem Einsatz getestet werden und auch im laufenden Betrieb müssen sie weiterhin regelmäßig getestet werden.

Management

Dabei werden Ressourcen den erfassten und gemessenen Risiken zugewiesen, wie in den vorherigen Phasen beschrieben und von der Governance-Funktion definiert. Zur Risikobehandlung gehören Pläne zur Reaktion auf Vorfälle oder Ereignisse, zur Behebung dieser Vorfälle und zur Kommunikation darüber.

Risikomanagement im KI- und Informationssicherheitssektor

Das vom NIST veröffentlichte AI Risk Management Framework bietet Organisationen und Einzelpersonen, die sich mit KI befassen, einen detaillierten Satz von Richtlinien und Maßnahmen zur Implementierung in ihren Anwendungen. Unternehmen, die dieses Framework auf ihr Managementmodell anwenden, sind sicherlich besser auf die einzigartigen und oft unvorhersehbaren Risiken vorbereitet, die KI-Systeme bergen. Die Implementierung dieses Rahmens ist für Organisationen im Bereich Informationssicherheit umso ratsamer, da sie in kritischen Kontexten eingesetzt werden, in denen Ausfälle oder Fehlfunktionen zu noch größeren Risiken für Einzelpersonen und Organisationen führen können.

Andererseits kann die Implementierung dieses Rahmens eine Reihe von Herausforderungen innerhalb einer Organisation mit sich bringen. Das erste Problem besteht darin, dass es schwierig ist, alle technischen Einzelheiten zu verstehen und sie in einem bestimmten Kontext anzuwenden. Darüber hinaus erfordert die Umsetzung sicherlich die Bereitstellung von Ressourcen innerhalb der Institution, sei es in Form von Zeit, Geld oder Wissen. Es ist notwendig, Teams zu mobilisieren und zu schulen, damit die Implementierung dieses Rahmens so erfolgt, dass die Risiken, die KI-Systeme in den Ökosystemen, in die sie eingefügt werden, verursachen können, eliminiert oder zumindest gemindert werden.

Kryptus arbeitet an seiner Spionageabwehrplattform und der Analyse menschlicher Schwachstellen mithilfe von KI- und maschinellen Lerntechniken, was eine seiner Innovationssäulen darstellt. Für uns war das Risikomanagement im Bereich KI schon immer ein Anliegen. Wir arbeiten eng mit einem Expertenteam aus den Humanwissenschaften zusammen und Diskussionen über Risiken und Ethik in der KI sind Teil unserer Entwicklungsroutine. Daher haben wir die Einführung dieses Rahmens durch NIST mit großem Interesse aufgenommen und begonnen, alle Aspekte zu analysieren, um ihn in unserer Organisation zu implementieren, wobei wir alle Herausforderungen berücksichtigt haben, die dies sicherlich mit sich bringen wird.