2022 年 11 月に ChatGPT が正式にリリースされて以來、何百萬ものユーザーが狂ったように殺到しました。 ChatGPT は、その優(yōu)れた人間のような言語生成機能、プログラミング ソフトウェアの才能、および超高速のテキスト分析機能により、開発者、研究者、および日常のユーザーにとってすぐに選ばれるツールになりました。

他の破壊的テクノロジーと同様、ChatGPT のような生成 AI システムにも潛在的なリスクがあります。特に、テクノロジー業(yè)界の主要企業(yè)、國家情報機関、その他の政府機関は、ChatGPT などの人工知能システムに機密情報をフィードすることについて警告を発しています。

ChatGPT のセキュリティ リスクに関する懸念は、セキュリティの脆弱性またはチャットボットを「トレーニング」するためのユーザー作成コンテンツの使用によって、情報が ChatGPT を通じてパブリック ドメインに漏洩する可能性から生じています。

これらの懸念に応えて、テクノロジー企業(yè)は大規(guī)模言語モデル (LLM) と會話型 AI (CAI) に関連するセキュリティ リスクを軽減するための措置を講じています。 ChatGPT を完全に無効にすることを選択した企業(yè)もあれば、そのようなモデルに機密データを入力する危険性を従業(yè)員に警告している企業(yè)もあります。

ChatGPT: 恐ろしいオープン AI?

人工知能主導(dǎo)の ChatGPT は、企業(yè)が運用を最適化し、複雑なタスクを合理化するための人気のツールとなっています。しかし、最近の出來事は、プラットフォームを介して機密情報を共有することの潛在的な危険性を浮き彫りにしました。

気がかりなことに、ChatGPT を介した機密データ漏洩事件が 1 か月以內(nèi)に 3 件報告されました。韓國メディアは、スマートフォンメーカー、サムスンの主力半導(dǎo)體工場の従業(yè)員が、プログラミングエラーのトラブルシューティングに使用される機密性の高いソースコードを含む機密情報を人工知能チャットボットに入力したと報じ、物議を醸した。

ソース コードは、ソフトウェアやオペレーティング システムの基本的な構(gòu)成要素であるため、テクノロジー企業(yè)にとって最も厳重に守られている機密の 1 つです。そして今、そのような貴重な企業(yè)秘密が誤って OpenAI の手に渡ってしまいました。

この件に詳しい関係者によると、サムスンは現(xiàn)在従業(yè)員のChatGPTへのアクセスを制限しているという。

Amazon、ウォルマート、JPモルガンなど、他のフォーチュン 500 複合企業(yè)も、従業(yè)員が誤ってチャットボットに機密データを入力するという同様の狀況を経験しています。

Amazonの従業(yè)員が顧客の機密情報を入手するためにChatGPTを使用しているという以前の報告があり、ハイテク大手は直ちにツールの使用を制限し、ツールに機密データを入力しないよう従業(yè)員に厳しく警告した。

「不完全な」モデル: インテリジェンスが欠如したナレッジ ベース

AI 主導(dǎo)のデジタル エクスペリエンス プラットフォームである Coveo の機械學(xué)習(xí)ディレクターである Mathieu Fortier 氏は、GPT-4 や LLaMA などの複數(shù)の LLM は、これらのモデルは言語理解には優(yōu)れているものの、正確さ、不変の法則、物理的現(xiàn)実、その他の非言語的側(cè)面を認識する能力に欠けていると警告しています。

LLM はトレーニング データから広範(fàn)な固有の知識ベースを構(gòu)築しますが、真実や事実の正確さについての明示的な概念はありません。さらに、セキュリティ侵害やデータ抽出攻撃に対して脆弱であるだけでなく、予想される反応から逸脫したり、「精神病的」特性 (技術(shù)名では「幻覚」) を示したりする傾向があります。

Fortier は、企業(yè)が直面する高いリスクを強調(diào)しました。その結(jié)果、顧客の信頼が大きく損なわれ、ブランドの評判に取り返しのつかない損害を與え、重大な法的および財務(wù)的問題につながる可能性があります。

他のテクノロジー大手の例に倣い、小売大手のテクノロジー部門であるウォルマート?グローバル?テクノロジーも、データ侵害のリスクを軽減するための措置を講じました。同社は従業(yè)員宛ての社內(nèi)メモの中で、企業(yè)データやセキュリティを侵害する可能性のある不審なアクティビティを検出したら直ちにChatGPTをブロックするよう従業(yè)員に指示した。

ウォルマートの広報擔(dān)當(dāng)者は、同社は GPT-4 の機能に基づいて獨自のチャットボットを作成しているが、従業(yè)員と顧客のデータを ChatGPT などから保護するためにいくつかの対策を講じていると述べた。

広報擔(dān)當(dāng)者は、「ほとんどの新しいテクノロジーは、新たな利點をもたらしますが、同時に新たなリスクももたらします。したがって、當(dāng)社はこれらの新しいテクノロジーを評価し、當(dāng)社の顧客、メンバー、従業(yè)員のデータを保護するために従業(yè)員に使用方法のガイダンスを提供します」と述べました。珍しいことではありません。Open AI などの既存のテクノロジーを活用し、その上にレイヤーを構(gòu)築して小売業(yè)者とより効果的にコミュニケーションすることで、新しい顧客エクスペリエンスを開発し、既存の機能を向上させることができます?！?

さらに、その他のVerizon や Accenture などの企業(yè)も ChatGPT の使用を制限する措置を講じており、Verizon は従業(yè)員にチャットボットを機密性のないタスクに制限するよう指示しており、アクセンチュアはデータ プライバシー規(guī)制の遵守を確保するためにより厳格な管理を?qū)毪筏皮い蓼埂?

ChatGPT によるセッション データの使用方法

さらに懸念されるのは、ChatGPT がモデルをさらにトレーニングするためにユーザー入力データを保持していることです。これにより、データ侵害やその他のセキュリティ インシデントによって機密情報が漏洩する可能性があるという懸念が生じます。問題。

人気の生成人工知能モデル ChatGPT と DALL-E を開発する OpenAI は、最近、ユーザー データのプライバシーとセキュリティを向上させるための新しいポリシーを?qū)g裝しました。

今年 3 月 1 日より、API ユーザーは OpenAI のモデルをトレーニングまたは改善するためにデータを共有することを明示的に選択する必要があります。

対照的に、ChatGPT や DALL-E などの非 API サービスの場合、OpenAI によるデータの使用を希望しない場合は、ユーザーはオプトアウトする必要があります。

OpenAI は最近更新されたブログで、「お客様が當(dāng)社の非 API コンシューマ サービス ChatGPT または DALL-E を使用する場合、當(dāng)社はモデルを改善するためにお客様が提供したデータを使用する場合があります。當(dāng)社とお客様のデータを共有することは、単に役立つだけではありません」と述べています。當(dāng)社のモデルはより正確になり、特定の問題をより適切に解決できるようになり、全體的な機能とセキュリティの向上にも役立ちます...組織 ID とアカウント所有者に関連付けられた電子メール アドレスを入力して、非 API サービスを改善するためのデータ?！骨閳螭仙髦丐斯_されます。イタリア政府も最近この爭いに加わり、データのプライバシーとセキュリティへの懸念を理由に全國的にChatGPTの使用を禁止した。

OpenAI は、人工知能モデルの改善に使用されるデータから個人を特定できる情報を一切削除し、この目的で各顧客からのデータの少數(shù)のサンプルのみを使用すると述べています。

政府警告

英國政府通信本部 (GCHQ) 諜報機関は、國家サイバー セキュリティ センター (NCSC) を通じて、大規(guī)模な言語モデルの制限とリスクについて警告を発しました。 (LLM) ChatGPT 警告など。これらのモデルはその優(yōu)れた自然言語処理能力で賞賛されていますが、NCSC はそれらが確実なものではなく、重大な欠陥が含まれている可能性があると警告しています。

NCSC によると、Google Bard チャットボットの最初のデモンストレーションで実証されたように、LLM は誤ったまたは「幻想的な」事実を生成する可能性があります。また、特に誘導(dǎo)的な質(zhì)問に答えるときに、偏見やだまされやすさを示すこともあります。さらに、これらのモデルは、ゼロからトレーニングするために広範(fàn)なコンピューティング リソースと大量のデータを必要とし、インジェクション攻撃や有害なコンテンツの作成に対して脆弱です。

Coveo の Fortier 氏は、「LLM は、プロンプトの內(nèi)部知識との固有の類似性に基づいて、プロンプトに対する応答を生成します。しかし、固有の內(nèi)部の「厳密なルール」や推論能力を持たないことを考えると、100% である可能性は低いです。機密情報を開示しないという制約を遵守することに成功しました。機密情報の生成を減らす努力にもかかわらず、LLM はこのデータをトレーニングに使用する場合、この情報を再生成できます。唯一の解決策は、これらのモデルのトレーニングに機密マテリアルを使用しないことです。ユーザーまた、現(xiàn)在、ほとんどのサービスが機密情報をログに保存しているため、プロンプトで機密情報を提供することも避けるべきです?！?/p>

生成 AI の安全性と倫理を使用するためのベスト プラクティス

企業(yè)が人工知能の導(dǎo)入を続ける中、インテリジェンスやその他の新興テクノロジーを活用し、機密データを保護し、機密情報の偶発的な開示を防ぐための適切なセキュリティ対策を確保することが重要になります。

これらの企業(yè)がとった措置は、ChatGPT などの人工知能言語モデルを使用する際に常に警戒を続けることの重要性を浮き彫りにしています。これらのツールは効率と生産性を大幅に向上させることができますが、誤って使用すると重大なリスクを引き起こす可能性があります。

會話型人工知能の新興企業(yè)である Got it AI の會長であるピーター?リラン氏は、「最善のアプローチは、言語モデルの獨自の改善による新しい開発をすべて、企業(yè)戦略主導(dǎo)のアーキテクチャに組み込むことです。このアーキテクチャは、保護用のプリプロセッサとポストプロセッサを備えた言語モデルを使用し、エンタープライズ固有のデータに合わせて微調(diào)整し、ローカルに展開することもできます。そうしないと、元の言語モデルが強力すぎるため、エンタープライズでの処理が有害になる場合があります?！?

Nvidia が支援する會話型 AI プラットフォーム Kore.ai の最高技術(shù)責(zé)任者である Prasanna Arikala 氏は、將來的に企業(yè)は違反を避けるために機密情報や個人情報への LLM アクセスを制限する必要があると述べました。

アリカラ氏は、「多要素認証や機密データの暗號化などの厳格なアクセス制御の実裝は、これらのリスクを軽減するのに役立ちます。さらに、潛在的な脆弱性を特定して排除するには、定期的なセキュリティ監(jiān)査と脆弱性評価が必要です」と述べました。 LLM は正しく使用すれば価値のあるツールですが、企業(yè)にとっては機密データを保護し、顧客や関係者の信頼を維持するために必要な予防措置を講じることが重要です。」

これらの規(guī)制がどのように適用されるかはまだわかりません。進化していますが、企業(yè)は常に時代の先を行くために警戒し続ける必要があります。生成型 AI は潛在的な利點をもたらしますが、同時に新たな責(zé)任と課題ももたらします。テクノロジー業(yè)界は政策立案者と協(xié)力して、このテクノロジーが責(zé)任ある倫理的な方法で開発および実裝されるようにする必要があります。

以上が企業(yè)內(nèi)で AI を活用したチャットボットを使用するリスクの詳細內(nèi)容です。詳細については、PHP 中國語 Web サイトの他の関連記事を參照してください。