Laut MIT bringt die Masseneinführung generativer KI-Tools einen sehr wichtigen Faktor zunichte

Neu künstliche Intelligenz Täglich entstehen (KI-)Plattformen und Tools zur Unterstützung von Entwicklern, Datenwissenschaftlern und Geschäftsanalysten. Dieses schnelle Wachstum neuer Technologien führt jedoch auch dazu, dass die Komplexität von KI-Konstellationen weit über die Kapazität hinaus steigt Verantwortung und Rechenschaftspflicht in KI-Systemen.

Das ist das Fazit einer aktuellen Studie Umfrage von 1.240 Führungskräften, veröffentlicht von MIT Sloan Management Review und Boston Consulting Group (MIT SMR und BCG), die den Fortschritt von untersuchten verantwortungsvolle KI-Initiativen und die Einführung sowohl intern entwickelter als auch extern beschaffter KI-Tools – was die Forscher „Schatten“ nennen KI".

Auch: Lernen Sie den Post-KI-Entwickler kennen: kreativer, geschäftsorientierter

Das Versprechen der KI hat Konsequenzen, meinen die Autoren der Studie, Elizabeth Renieris (Oxford's Institute for Ethics in AI), David Kiron (MIT SMR) und Steven Mills (BCG): „Generative KI hat sich beispielsweise als unhandlich erwiesen und birgt unvorhersehbare Risiken für Unternehmen, die nicht auf ihr breites Einsatzspektrum vorbereitet sind.“ Fälle."

Viele Unternehmen „wurden von der Ausbreitung des Schatten-KI-Einsatzes im gesamten Unternehmen überrascht“, stellen Renieris und ihre Co-Autoren fest. Darüber hinaus „erschwert das rasante Tempo der KI-Fortschritte den verantwortungsvollen Umgang mit KI und setzt verantwortungsbewusste KI-Programme unter Druck, Schritt zu halten.“

Sie warnen davor, dass auch die Risiken zunehmen, die von der immer stärker werdenden Schatten-KI ausgehen. Zum Beispiel die wachsende Abhängigkeit von Unternehmen von einem wachsenden Angebot an KI-Tools von Drittanbietern sowie die schnelle Einführung von generative KI - Algorithmen (z.B ChatGPT, Dall-E 2, Und Mitten auf der Reise), die Trainingsdaten verwenden, um realistische oder scheinbar sachliche Texte, Bilder oder Audio zu generieren, setzen sie neuen kommerziellen, rechtlichen und Reputationsrisiken aus, die schwer zu verfolgen sind.

Die Forscher verweisen darauf die Bedeutung verantwortungsvoller KI, das sie als „einen Rahmen mit Prinzipien, Richtlinien, Werkzeugen und Prozessen, um sicherzustellen, dass KI-Systeme funktionieren“ definieren entwickelt und betrieben im Dienste des Wohls des Einzelnen und der Gesellschaft und gleichzeitig bei der Erzielung transformativer Geschäfte Auswirkung."

Eine weitere Schwierigkeit ergibt sich aus der Tatsache, dass eine Reihe von Unternehmen „offensichtlich ihre internen Kapazitäten reduzieren“. „Ressourcen, die für verantwortungsvolle KI aufgewendet werden, sind Teil eines umfassenderen Trends zu Entlassungen in der Industrie“, so die Forscher Vorsicht. „Diese Kürzungen verantwortungsvoller KI-Investitionen erfolgen wohl dann, wenn sie am dringendsten benötigt werden.“ 

Auch: So verwenden Sie ChatGPT: Alles, was Sie wissen müssen

Beispielsweise hat die weit verbreitete Nutzung des ChatGPT-Chatbots durch Mitarbeiter viele Unternehmen überrascht und könnte Auswirkungen auf die Sicherheit haben. Die Forscher sagen, dass verantwortungsvolle KI-Frameworks nicht geschrieben wurden, um „mit der plötzlichen, unvorstellbaren Anzahl von Risiken umzugehen, die generative KI-Tools mit sich bringen“.

Die Studie zeigt, dass 78 % der Unternehmen angeben, auf KI-Tools von Drittanbietern, einschließlich kommerzieller APIs, vorab trainierter Modelle und Daten, zuzugreifen, diese zu kaufen, zu lizenzieren oder anderweitig zu nutzen. Mehr als die Hälfte (53 %) verlässt sich ausschließlich auf KI-Tools von Drittanbietern und verfügt über keine intern entworfenen oder entwickelten KI-Technologien.

Verantwortungsvolle KI-Programme „sollten sowohl intern erstellte als auch KI-Tools von Drittanbietern abdecken“, fordern Renieris und ihre Co-Autoren. „Es müssen die gleichen ethischen Grundsätze gelten, egal woher das KI-System kommt.“ Wenn etwas schief gehen sollte, wäre es für die betroffene Person letztlich egal, ob das Werkzeug gebaut oder gekauft wurde.

Die Co-Autoren warnen davor, dass es zwar „kein Allheilmittel zur Minderung von KI-Risiken Dritter oder irgendeiner Art von KI gibt“. Risiko einzugehen“, fordern sie einen mehrgleisigen Ansatz zur Gewährleistung einer verantwortungsvollen KI in der heutigen, offenen Umgebung.

Auch: ChatGPT und die neue KI richten Chaos an

Solche Ansätze könnten Folgendes umfassen:

• Bewertung der verantwortungsvollen KI-Praktiken eines Anbieters
• Vertragssprache, die die Einhaltung verantwortungsvoller KI-Grundsätze vorschreibt
• Vorzertifizierung und Audits des Anbieters (sofern verfügbar)
• Interne Bewertungen auf Produktebene (wobei ein Tool eines Drittanbieters in ein Produkt oder eine Dienstleistung integriert ist)
• Einhaltung relevanter regulatorischer Anforderungen oder Industriestandards 
• Einbeziehung eines umfassenden Satzes von Richtlinien und Verfahren, wie z. B. Richtlinien für die ethische KI-Entwicklung, Risikobewertungsrahmen sowie Überwachungs- und Prüfungsprotokolle

Das Gespenst von Gesetzgebung und Regierungsaufträge könnten solche Maßnahmen zu einer Notwendigkeit machen, wenn KI-Systeme eingeführt werden, warnen die Co-Autoren.