谷歌Gemini兒童版：重要安全警告及家長控制

兒童已開始使用聊天機器人尋求建議，這引發(fā)了人們對兒童安全日益增長的擔憂。 美國參議員正敦促人工智能聊天機器人製造商提供更多信息。 據(jù)一位專員稱，“如果我們希望孩子們體驗生活中的豐富色彩、童年的快樂和青春的純真，我們就必須證明我們會比Chat GPT更快地回應他們?！?/p>

谷歌計劃推出兒童友好的Gemini版本，這可以被視為一種負責任的替代方案，防止孩子們完全使用人工智能助手，並將控制權交給家長。

轉向谷歌Gemini勢在必行

谷歌正在用Gemini替換其原始的（非人工智能）谷歌助手，並且已經(jīng)制定了政策，允許家長限制孩子使用原始助手。但是，當原始助手消失後，除了使用其人工智能驅動的替代品外別無選擇。這意味著年輕用戶在轉向Gemini時需要類似的保護措施。

然而，Gemini與穀歌助手截然不同，功能也強大得多。 Gemini更像是在與真人聊天，而不是與預先編程的機器人聊天，因此虛假信息和不當內(nèi)容的可能性大大提高。這意味著谷歌必須採取額外的安全措施。

如下所述，對Android版谷歌應用程序的擬議更改包括對兒童的明確警告，聲明“Gemini不是人，可能會犯錯，包括關於人的錯誤，因此請仔細檢查。” 關鍵問題是，孩子們是否具備檢查Gemini回復所需的批判性思維能力。對於谷歌助手來說，這並不是什麼大問題。

谷歌為兒童專門準備Gemini AI聊天機器人

Android應用程序專家AssembleDebug與Android Authority合作，最近發(fā)現(xiàn)了谷歌針對“兒童用戶版Gemini”的計劃。該報告發(fā)現(xiàn)，在最新版本的Android版谷歌應用程序中，存在以下文本的非活動代碼（為清晰起見，已重新格式化）：

• Assistant_scrappy_welcome_screen_title_for_kid_users
• — 從谷歌助手切換到Gemini
• Assistant_welcome_screen_description_for_kid_users
• — 創(chuàng)建故事、提問、獲得家庭作業(yè)幫助等等。
• Assistant_welcome_screen_footer_for_kid_users
• — 適用谷歌條款。谷歌將按照谷歌隱私政策和Gemini應用程序隱私聲明中所述的方式處理您的數(shù)據(jù)。 Gemini不是人，可能會犯錯，包括關於人的錯誤，因此請仔細檢查。

Gemini兒童版：至關重要的一步

由於“Gemini兒童版”尚未公開發(fā)布，因此現(xiàn)在就斷言谷歌在實施這些重要安全措施方面將有多有效還為時過早。但是，賦予家長控制權是至關重要的一步，並將這些安全措施與穀歌已建立的家長控制系統(tǒng)集成在一起，將使Gemini比目前缺乏此功能的競爭性聊天機器人（如ChatGPT）更具優(yōu)勢。

人工智能的日益普及意味著完全不讓孩子們接觸它可能是不可能的，但谷歌的努力應被視為避免Dame Rachel de Souza所強調的一些情況的積極步驟。

您可以在谷歌的Gemini應用程序隱私中心找到完整的Gemini應用程序隱私聲明。

谷歌Gemini兒童版：日益增長的擔憂

4月5日更新：鑑於最近的事態(tài)發(fā)展，谷歌計劃的“Gemini兒童版”更新被證明既及時又必要。

隨著美國參議員亞歷克斯·帕迪拉和彼得·韋爾奇正式要求人工智能聊天機器人網(wǎng)站Character.ai和Replika.com提供其安全措施信息，對谷歌兒童版Gemini更新的需求日益增強，據(jù)CNN報導，他們寫道：

“我們寫信是為了表達我們對基於角色和人物的人工智能聊天機器人和伴侶應用程序對年輕用戶的精神健康和安全構成的風險的擔憂?！?/p>

他們的要求是在Character.aI受到家長的審查之後提出的，這些家長認為他們的孩子在使用聊天機器人後受到了嚴重的傷害， CNN說。

作為一種通用人工智能助手，谷歌的Gemini與Character.ai和Replica等產(chǎn)品屬於不同的類別，後者旨在模仿個性化、類似人類的角色和伴侶。但是，隨著成人和兒童都接觸到越來越多的AI生成信息，這些信息將責任放在用戶身上，要求他們進行盡職的核實——這是孩子們不具備的能力，因此對兒童的安全保障仍然至關重要。

請注意， Character.ai明確禁止13歲以下未成年人（歐盟公民為16歲以下）使用，並且此後已從平臺上刪除了違規(guī)聊天機器人。 Replika應用程序的年齡限制為18歲以上。但是，這兩個應用程序目前在Android Play商店中僅顯示家長指導評級，每個應用程序的下載量都超過1000萬次。

關注@paul_monckton Instagram賬號。

Forbes 新的谷歌調查預示著谷歌相冊的徹底改版作者：Paul Monckton Forbes 谷歌最好的Gemini AI聊天機器人現(xiàn)在可以免費使用——但有一個陷阱作者：Paul Monckton

以上是Google Code揭示了對新的兒童友好雙子座AI的關鍵警告的詳細內(nèi)容。更多資訊請關注PHP中文網(wǎng)其他相關文章！