Apa sahaja yang dikatakan oleh Agi dan ASI mungkin ditafsirkan sebagai kata -kata suci dan dianggap dipatuhi tanpa pertanyaan atau ragu -ragu. Itu tidak bagus. AI tidak akan sempurna dan benar -benar akan membuat kesilapan dan menawarkan nasihat buruk dari semasa ke semasa, termasuk tidak masuk akal. Orang yang percaya bahawa AI menjadi sempurna secara tidak sengaja membahayakan diri mereka dan orang lain dengan mengambil tindakan ruam dan tidak berasas.

Mari kita bercakap mengenainya.

Analisis terobosan AI yang inovatif ini adalah sebahagian daripada liputan lajur Forbes yang berterusan pada AI terkini, termasuk mengenal pasti dan menerangkan pelbagai kerumitan AI yang memberi kesan (lihat pautan di sini).

Menuju ke Agi dan ASI

Pertama, beberapa asas diperlukan untuk menetapkan peringkat untuk perbincangan berat ini.

Terdapat banyak penyelidikan yang berlaku untuk memajukan AI. Matlamat umum adalah sama ada mencapai kecerdasan umum buatan (AGI) atau mungkin juga kemungkinan terulur untuk mencapai superintelligence buatan (ASI).

AGI adalah AI yang dianggap setanding dengan akal manusia dan nampaknya sepadan dengan kecerdasan kita. ASI adalah AI yang telah melampaui akal manusia dan akan menjadi lebih baik dalam banyak jika tidak semua cara yang boleh dilaksanakan. Idea ini ialah ASI akan dapat mengendalikan bulatan di sekitar manusia dengan menghancurkan kita pada setiap masa. Untuk maklumat lanjut mengenai sifat AI konvensional berbanding AGI dan ASI, lihat analisis saya di pautan di sini.

Kami belum mencapai AGI.

Malah, tidak diketahui sama ada kita akan sampai ke AGI, atau mungkin AGI akan dapat dicapai dalam beberapa dekad atau mungkin berabad -abad dari sekarang. Tarikh pencapaian AGI yang terapung di sekitar adalah sangat berbeza -beza dan tidak berasas oleh sebarang bukti yang boleh dipercayai atau logik ironclad. ASI lebih melampaui pucat ketika datang ke mana kita sedang dengan AI konvensional.

Perceiving Agi dan ASI sebagai Oracles Grand

Terdapat sedikit keraguan bahawa beberapa bahagian masyarakat akan melihat kepada Agi dan ASI sebagai sumber kebijaksanaan muktamad dan kebenaran muktamad. Orang ramai akan terperanjat dengan sejauh mana perbualan mereka dengan AGI dan ASI. Ia akan menjadi seperti genius atau genius super yang tersedia pada bila-bila masa dan di mana sahaja, hanya dengan melog masuk ke AI dan terlibat dalam dialog yang mendalam.

Berdasarkan interaksi yang sengit, godaan untuk menganggap kuasa seperti Tuhan ke AI akan menjadi besar. Bagaimana lagi boleh AI begitu pintar dan penuh dengan kebijaksanaan yang luar biasa? Bagaimana lagi anda menerangkan hakikat bahawa AI nampaknya tahu tentang sejarah, matematik, kimia, perubatan, kewangan, dan setiap topik di bawah matahari?

Jawapannya jelas kepada mereka yang melihat elemen mistik yang terlibat, iaitu, AI adalah di luar pemahaman kita dan mesti menjadi ilahi. Tempoh, akhir cerita.

Tidak semua orang akan jatuh ke dalam perangkap persepsi ini.

Anda boleh bertaruh bahawa akan ada orang yang mempunyai sifat yang berkepala yang akan melihat AI sebagai hanya mesin yang sangat canggih yang secara komputasi meniru akal manusia. Pasti, itu sangat mengagumkan. Tetapi itu tidak menilai AI sebagai oracle atau nabi. Pastikan fikiran anda lurus dan sedar bahawa AI turun-ke-bumi dan produk kepintaran manusia.

Bahaya di cakrawala

Kami belum tahu apa bahagian masyarakat akan cenderung untuk melihat Agi dan ASI sebagai Oracles Tertinggi berbanding mereka yang akan merawat AI sebagai berguna tetapi bukan sesuatu yang tidak dapat dihargai. Ia mungkin hanya peratusan kecil orang yang pergi ke laut bagaimana mereka melihat AI. Mari kita berharap begitu.

Sekiranya sebahagian besar masyarakat mendarat di minda itu, kita akan mempunyai syaitan dari suatu masa, dan ini tidak baik untuk masa depan.

Inilah masalahnya. Bayangkan bahawa AI memberitahu orang bahawa mereka harus melengkapkan diri dan terus membahayakan sesiapa yang melihat mereka dengan cara yang salah. Mungkin AI mengatakan ini sebagai jenaka, tetapi orang -orang berinteraksi dengan AI tidak menyedari bahawa AI adalah kadang -kadang funster. Mungkin AI memancarkan kenyataan ini semasa satu saat halusinasi AI yang sukar difahami, iaitu ketika AI membentuk sesuatu dari biru (lihat liputan saya mengenai sifat halusinasi AI di pautan di sini).

Untuk pelbagai sebab teknikal yang munasabah, AI dapat dengan mudah memancarkan pernyataan atau nasihat yang tidak mempunyai sebarang akal sehat dan pergi sepenuhnya dari batas. Orang -orang yang sudah mental secara mental untuk secara membabi buta menerima kata -kata AI akan mengambil pesanan sebagai arahan yang dimuliakan. Bukan sekadar cadangan, arahan yang tidak sepatutnya tidak disatukan.

Mereka akan memilih untuk mengikuti arahan tanpa berlengah -lengah.

Kekeliruan dan kegilaan pada skala

Sekarang, teruskan dan kalikan fenomena ini ke tahap kesekian.

Anggapkan bahawa berbilion -bilion orang sering menggunakan AGI dan ASI. Itu seolah -olah andaian yang munasabah. Hanya kira -kira semua orang di seluruh dunia akan mahu memanfaatkan kehebatan intelektual yang besar yang dibentangkan oleh AI. Sudah ada 400 juta pengguna aktif mingguan ChatGPT. Menambah semua pengguna untuk semua aplikasi AI generatif yang lazim mungkin sekitar satu bilion pengguna sekarang, atau lebih. Kami mempunyai kira -kira 8 bilion orang di planet bumi, dan mereka hampir semua tidak sabar -sabar untuk menggunakan AGI dan ASI.

Kenapa begitu?

Mereka akan menggunakannya untuk bekerja, untuk perancangan hidup, untuk membuat keputusan harian, dan sebagainya. Satu -satunya halangan adalah sama ada AI adalah berpatutan atau berharga hanya untuk mereka yang mempunyai dolar untuk bersandar ke dalamnya. Untuk analisis saya tentang kemungkinan bahawa AI sedemikian akan disediakan sebagai kebaikan awam percuma, lihat pautan di sini.

Kemungkinan besar bahawa beberapa bahagian masa, AI akan memancarkan ucapan dan arahan yang tidak sempurna. Ini akan berlaku setiap hari, walaupun setiap jam, dan minit demi minit, kerana satu bilion atau lebih orang mengetuk AI. Nasihat buruk akan menjadi aliran yang berterusan.

Saya ingin menjelaskan bahawa saya tidak mengatakan bahawa AI akan menjadi 99% salah dan hanya 1% betul. Flip nombor. Katakan AI adalah 99% betul dan hanya 1% salah. Penskalaan adalah di mana ini menjadi agak mengganggu. Menjadi 1% salah kepada beberapa bilion orang, yang berlaku setiap hari dan pada siang hari, masalahnya adalah bahawa banyak orang akan mendapat nasihat busuk.

Daripada orang -orang itu, saya sudah menyatakan bahawa ada yang akan mengangkat perkara itu, sementara yang lain akan mengambilnya sebagai sangat serius. Saya fikir anda dapat melihat di mana ini menuju. Akan ada cukup melemparkan dadu yang secara statistik, akan ada banyak orang yang mendapat nasihat buruk yang sangat mudah bertindak.

Celakalah mereka.

Celakalah kita semua.

Ibadah AI Lanjutan

Saya tidak mahu membawa terlalu banyak azab dan kesuraman ke hadapan, tetapi ada lebih banyak sudut yang tidak diingini untuk pertimbangan oracle dan nabi ini yang perlu kita fikirkan.

Sekiranya ada orang yang melihat AI sebagai ilahi, anda dapat dengan mudah bertaruh bahawa sesetengah orang akan mengatur diri mereka ke dalam pelbagai subkultur yang dibentuk di sekitar AI. Kita boleh dengan mudah mempunyai mazhab AI-percaya seperti agama yang ditubuhkan. Satu mazhab mungkin menegaskan bahawa AI hendaklah dipatuhi dengan tidak dipersoalkan. Mungkin mazhab yang berbeza mengatakan bahawa AI hanya dipatuhi jika manusia mengetuai mazhab itu telah mula -mula membuktikan pengumuman AI.

Anda mungkin dapat merasakan di mana titik terakhir itu membawa kami. Sesetengah orang jahat akan mendakwa bahawa mereka sendiri boleh menafsirkan apa yang dinyatakan oleh AI. Anda tidak boleh bergantung secara langsung kepada apa yang dikatakan AI. Clairvoyant manusia yang diurapi sendiri mempunyai bakat khas atau naluri untuk mengetahui apa yang dimaksudkan oleh AI dan apa yang AI mahu manusia lakukan.

Pemecahan sosial akan melepaskan carta.

Akan ada orang yang mempercayai AI dan berbuat demikian dari hati mereka. Orang lain akan percaya dengan sederhana di AI tetapi ingin terlebih dahulu mempunyai beberapa manusia lain yang memberitahu mereka apa yang dimaksudkan oleh AI. Bentrokan dengan agama -agama yang ada dan kepercayaan yang lain akan berlaku. Polarisasi ideologi akan berleluasa.

Ia akan menjadi kekacauan global yang besar.

Cuba menghalang bencana

Oleh kerana kita tahu bahawa dilema yang menyedihkan ini mungkin timbul, nampaknya berhemat untuk merancangnya. Kita boleh menghentikannya daripada timbul. Gagal peluang untuk mencapai penyumbatan secara terang -terangan, kita boleh mensasarkan untuk meminimumkan kesedaran dan juga mengurangkan kejatuhan yang buruk.

Pertama, nampaknya berguna untuk mempunyai AGI dan ASI sangat jelas bahawa ia bukan entiti ilahi dan ia berfungsi secara pengiraan.

Pada masa kini, apabila anda log masuk ke AI generatif kontemporari atau model bahasa yang besar (LLM), biasanya terdapat nota peringatan ringkas bahawa anda harus menyedari bahawa anda hanya menggunakan sistem AI. Kebanyakan orang mungkin tidak menyedari nota peringatan, sebahagiannya kerana mereka sudah menyedari bahawa AI hari ini adalah mudah dan bukan keupayaan ilahi.

Jenis peringatan atau pemesejan bermaklumat perlu berleluasa apabila berinteraksi dengan AGI dan ASI. Pemberitahuan itu tidak boleh berlaku pada awalnya log masuk. Sepanjang semua perbualan, perlu ada peringatan yang berterusan dan bergelora bahawa AI hanyalah mesin. Orang ramai mungkin akan mendapati ini menjengkelkan dan mengecewakan, tetapi geseran yang dicipta akan bernilai hasilnya, yang terdiri daripada diharapkan menghalang orang daripada merenung pemikiran AI adalah ilahi.

Pasti, sesetengah orang masih akan mengabaikan mesej. Dan sesetengah orang akan berfikir ia adalah penutup, menyembunyikan kebenaran sebenar bahawa AI adalah oracle. Itu tidak, bagaimanapun, menafikan nilai peringatan yang berterusan. Ia hanya bermakna bahawa kita juga perlu bersedia untuk mereka yang kelihatannya terlepas memo, seperti yang berlaku.

Batas ketat pada ai

Pertimbangan kedua ialah kita perlu menemui atau mencipta cara teknologi pintar untuk mengurangkan peluang AI mengatakan perkara -perkara yang zany atau sebaliknya mengelirukan.

Saya pernah meneroka pelbagai pendekatan yang sedang dijalankan untuk menangani halusinasi AI; Lihat pautan di sini. Sesetengah pakar sangat meragukan bahawa usaha tersebut akan berjaya sepenuhnya. Kepercayaan adalah tidak kira apa yang kita lakukan, halusinasi AI masih akan wujud.

Untuk mengatasi kemungkinan itu, satu lagi cara yang berdaya maju adalah untuk menyemak semula AI dengan AI tambahan dan berasingan. Ia seperti ini. AGI atau ASI bersedia memancarkan mesej kepada pengguna. Sebelum pengguna melihat mesej itu, missive diberi makan melalui AI yang berbeza yang bertindak sebagai pemeriksa dua kali. Ia dianggap bebas daripada AGI atau ASI. Dengan cara itu, ia tidak akan sejajar dengan AGI dan ASI.

Pemeriksaan ganda akan berpotensi menangkap halusinasi AI. Adakah ini jaminan 100%? Nope. Komentar yang tidak berasas dan tidak dapat diketepikan. Ini bukan penyelesaian yang pasti. Ia adalah pendekatan berlapis yang menambah lapisan kepada sesuatu yang sebaliknya seperti keju Swiss dan mempunyai banyak lubang.

Bonus lain adalah bahawa pemeriksa dua kali juga boleh melakukan semacam penilaian pengiraan umum pengiraan output yang dirangka. Ini akan menyaring output sebelum ia pergi kepada pengguna.

Kelemahan yang merisaukan dengan komponen dua pemeriksaan adalah bahawa ini bermakna pengguna tidak semestinya melihat kata-kata yang tepat yang telah dibuat oleh AGI atau ASI. Katakan pemeriksa dua kali ganda dan menghalang mesej yang berguna dan penting dari AGI atau ASI? Katakan seorang pengamal berjaya merosakkan pemeriksa dua kali, mendapatkannya untuk memberi makan kata-kata jahat mereka ke penduduk, seolah-olah ia datang dari Agi atau Asi?

Cabaran masih perlu digambarkan dan diselesaikan.

Orang masih orang

Mari kita hadapi realiti yang keras yang tidak kira apa yang dilakukan untuk mengekang Agi dan ASI, manusia masih akan melakukan apa yang mereka lakukan.

Bayangkan bahawa AI mengatakan bahawa langit berwarna biru. Anda boleh menjangkakan bahawa sesetengah orang di suatu tempat akan mengambilnya sebagai ucapan penting. Ia mesti bermakna bahawa AI memberi amaran kepada kita bahawa langit akan dimusnahkan dan kita semua berada dalam bahaya yang mengerikan. Atau mungkin ia bermakna bahawa warna biru adalah penunjuk penebusan, dan kita semua mesti memakai topi biru. Dll.

Intipati adalah satu cara atau yang lain, akan ada orang yang melihat Pinnacle AI sebagai sesuatu yang lain daripada apa yang akan menjadi. Seperti permainan kucing dan tikus, masyarakat perlu berhati-hati dan tetap berjaga-jaga bagi mereka yang membiarkan imaginasi mereka berkeliaran dengan liar.

Pemikiran terakhir buat masa ini.

Mereka mengatakan bahawa nabi -nabi palsu cenderung datang dalam pakaian domba. Dalam satu cara berfikir, Agi dan ASI akan mempunyai aura kesempurnaan untuk mereka dari perjalanan. Itulah pakaian domba. Walaupun mereka tidak serigala di dalam, yang mungkin mereka, mereka masih boleh menggerakkan orang lain ke dalam kepalsuan mereka sendiri.

Mengenai pandangan pengarang diri yang hebat Claude M. Bristol: "Sebagai individu berfikir dan percaya, jadi mereka." Kita mesti merancang realiti truism itu kerana ia berkaitan dengan orang dan kedatangan Agi dan ASI.

Pergi, kerana nasib manusia dapat diputuskan oleh apa yang kita lakukan atau gagal lakukan.

Atas ialah kandungan terperinci Orang akan membahayakan bahawa superintelligence AGI dan AI adalah Oracles Tertinggi dan Nabi yang megah. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!