Aber meistens überraschend wird die Schatten -KI (wie die meisten Formen der Schattentechnologie und bringen Ihre eigene Ger?teaktivit?t) als negativ, eine Verletzung und ein Risiko an.

KI -Schattenzüchter

Das Thema heute ist, dass KI im Wesentlichen noch in den Kinderschuhen steckt, immer noch embryonal und erst anf?ngt, ihre erste Welle der Implementierung zu erleben. Die Exposition vieler Benutzer gegenüber KI beschr?nkt sich auf amüsante Bildkreationen, die von Chatgpt und anderen Tools erzeugt werden (denken Sie letzte Woche an Human Plastic Toy Blister Packs, Katzen in Tauchbrettern und etwas, das n?chste Woche noch bizarrerer ist), was bedeutet, dass eine weit verbreitete Einführung von AI -Tools noch nicht zu einer Standardpraxis wird. Obwohl diese Zeit unmittelbar bevorsteht, bedeutet der aktuelle Zustand der KI -Entwicklung, dass eine gewisse Verwendung unter das Radar rutscht.

Die nicht autorisierte Verwendung von KI -Tools durch Entwickler wird zu einem ernsthaften Problem, da die Anwendungsentwicklung weiterhin schnell beschleunigt. Scott McKinnon , CSO für Gro?britannien & I bei Palo Alto Networks, sagt, dass dies bedeutet, moderne, Cloud-native Anwendungen zu erstellen, sondern auch nicht mehr nur darum, Code zu schreiben. Es wird erkennen, dass wir jetzt in einem ?kontinuierlichen Beta-Modus“ arbeiten, da der Druck, neue Enterprise-Software-Dienste schnell bereitzustellen.

"Der daraus resultierende Effekt ist, dass Entwickler einen intensiven Druck ausgesetzt sind, schnell zu liefern und Zeit für den Markt zu verkürzen. Angesichts dessen ist es verst?ndlich, warum sich viele Entwickler an KI -Tools zuwenden, um die Effizienz zu steigern und diese anspruchsvollen Erwartungen zu erfüllen", sagte McKinnon. ? Unsere Forschung zeigt, dass der Generative-KI-Verkehr von Unternehmen im Jahr 2024 um über 890% gestiegen ist-und bei Organisationen, die diese Apps zunehmend verwenden-, k?nnen einige als ein hohes Risiko angesehen werden. In der Zwischenzeit haben die mit generativen KI verbundenen Datenverlust-Pr?ventionsverbesserung mehr als verdoppelt und deutlich signalisiert Governance-Fehler.

Go-Around-Leitplanken

Wenn all diese Realit?ten kombiniert werden, ist es leicht zu erkennen, warum Softwareentwickler m?glicherweise versucht sind, die KI -Richtlinien und -kontrollen der Organisation zu umgehen. In der Praxis k?nnen sie in Open-Source-Gro?sprachenmodellen au?erhalb zugelassener Plattformen anschlie?en, Code mit AI ohne Aufsicht erstellen oder Datengovernance-Richtlinien überspringen, um die Bereitstellung zu beschleunigen. Das Ergebnis k?nnte geistiges Eigentum durch Konformit?tsverletzungen aussetzen, die auch die Sicherheit des Systems beeintr?chtigen.

"Es kommt alles auf eine Sache an: Wenn Entwickler die Geschwindigkeit mit Sicherheit in Einklang bringen sollen, müssen sie ein neues operatives Modell annehmen. Dieses Modell sollte klare, durchsetzbare KI -Governance und Aufsicht direkt in die kontinuierliche Lieferpipeline einbinden, anstatt sie anschlie?end anzugreifen“, erkl?rte McKinnon. ?Wenn Entwickler AI -Tools au?erhalb sanktionierter Kan?le verwenden, ist ein Hauptanliegen die Integrit?t der Lieferkette. Das Anziehen von ungetesteten oder nicht gegenseitigen KI -Komponenten führt zu undurchsichtigen Abh?ngigkeiten, die h?ufig Schwachstellen verstecken.“

Was sind undurchsichtige Softwareabh?ngigkeiten?

Es ist ein Begriff, der bereits bedrohlich genug klingt, und undurchsichtige Softwareabh?ngigkeiten sind wirklich problematisch. Softwareabh?ngigkeiten sind wesentliche Teile von kleineren

Datendienste-Software-Bibliotheken verwalten Datenbankverbindungen, Frameworks verwalten Benutzeroberfl?chen oder Module, die Teil externer Drittanbieter-Anwendungen sind. Nützliche Softwareabh?ngigkeiten sind transparent und leicht zu inspizieren. und undurchsichtig sind zwar funktionsf?hig, aber düster, wenn es darum geht, ihre Ursprünge und internen Komponenten zu enthüllen. Technisch gesehen bedeuten die Abh?ngigkeiten von undurchsichtigen Softwareanwendungen, dass Entwickler sie nicht "zuweisen" (und eine Verbindung zu ihnen herstellen k?nnen) über eine ?ffentliche Anwendungsprogrammierschnittstelle.

Laut McKinnon sind eine weitere erhebliche Bedrohung schnelle Injektionsangriffe, bei denen b?swillige Schauspieler KI -Inputs manipulieren, um unbeabsichtigte und gef?hrliche Verhaltensweisen zu erzwingen. Diese Arten von Schwachstellen sind schwer zu erkennen und k?nnen Vertrauen und Sicherheit in AI-betriebenen Anwendungen untergraben. Bei Deaktivierung schaffen solche Praktiken neue Angriffsfl?chen und erh?hen das Gesamtrisiko von Cyber ??-Vorf?llen. Organisationen müssen dies durch die Sicherung von KI -Entwicklungsumgebungen, die strenge überprüfung von Tools und die Sicherstellung der Entwickler, die die Unterstützung für die effektive Arbeit erhalten, voraus sein.

Der Weg zur Plattformisierung

"Um die Risiken einer nicht genehmigten KI-Verwendung effektiv zu bew?ltigen, müssen Unternehmen über fragmentierte Tools und Prozesse hinweg in Richtung eines einheitlichen Plattformansatzes hinausgehen. Dies bedeutet, dass die KI-Governance, Systemkontrollen und Entwickler-Workflows in ein einzelnes integriertes System konsolidiert werden. Ohne diese Sichtbarkeiten bieten Organisationen die Geschwindigkeit, um mit der Geschwindigkeit Schritt und den Umwelt zu schuppen.

Seine Vision von Plattformisation (und breiterer Plattformtechnik) erm?glicht es Unternehmen, konsistente Richtlinien für alle KI -Nutzungen anzuwenden, riskantes Verhalten frühzeitig zu identifizieren und den Entwicklern sichere, genehmigte KI -Funktionen in bestehenden Workflows zu bieten.

?Dies verringert die Reibung für Softwareentwickler und erm?glicht eine schnellere Arbeit, ohne die Sicherheit oder Konformit?t zu beeintr?chtigen. Anstatt mehrere getrennte Tools zu jonglieren, erhalten Unternehmen eine zentrale Sicht auf die AI -Aktivit?t, die überwachung, Prüfung und Reaktion auf Bedrohungen. Letztendlich leichter. Networks 'McKinnon.

Im schlimmsten Fall kann Shadow AI zu einer sogenannten Modellvergiftung (auch als Datenvergiftung bezeichnet) führen, ein Szenario, das von der Cloudflare der Anwendung und der API-Zuverl?ssigkeit beschrieben wird, als wenn ein Angreifer die Ausgaben eines KI- oder maschinellen Lernmodells durch Ver?nderung seiner Trainingsdaten manipuliert. Das Ziel eines KI-Modellgiftes ist es, die KI voreingenommene oder sch?dliche Ergebnisse zu erzielen, sobald die Verarbeitung von Inferenzberechnungen beginnt, die letztendlich KI-gesteuerte Erkenntnisse liefern.

Laut Mitchell Johnson , Chief Product Officer des Software Supply Chain Management Specialist Sonatype: ?Shadow AI enth?lt alle KI-Anwendungen oder -tool, die au?erhalb der IT- oder Governance-Frameworks einer Organisation verwendet werden. Assistenten, maschinelle Lernmodelle in pers?nlichen Konten aufbauen oder sich wiederholende Aufgaben mit inoffiziellen Skripten automatisieren. “

Johnson merkt an, dass es jetzt zunehmend auf den Anstieg der Fernarbeit erscheint, bei der Teams au?erhalb der traditionellen Aufsicht operieren und Unternehmen keine umfassende KI -Governance haben und politische Lücken schafft, die improvisierten.

Aus dem Schatten aus dem Schatten

Es gibt eindeutig ein Netzwerksystem, das mit der Schatten -KI verbunden ist. Immerhin ist es die erste Ausgabe, die von den Kommentatoren der Tech -Industrie angesprochen wird, die vor einer Form von Schatten warnt. Es gibt auch gr??ere Auswirkungen, einschlie?lich bestimmter IT -Teams, die einen unfairen Vorteil erwerben, oder einige Entwicklerteams, die Rogue AI einführen, die Verzerrungen und Halluzinationen verursachen.

Um eine meteorologische Binsenweisheit zu leihen, sind Schatten normalerweise nur w?hrend einer Hitzewelle gute Nachrichten… was normalerweise bedeutet, dass es eine Menge Luftfeuchtigkeit gibt, wobei Stürme m?glicherweise unterwegs sind.

Das obige ist der detaillierte Inhalt vonEin Licht auf die Schatten -KI leuchten. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!