Mengapa Kita Begitu Takut dengan AI? – Menuju AI — Teknologi, Sains, dan Teknik Terbaik

Pengarang: Seppo Keronen

Pendapat

Foto oleh Andre Mouton di Unsplash

Kita manusia telah menjadi spesies dominan di planet “kita”. Kita takut pada apa pun atau siapa pun, terlalu kuat atau berbeda dari diri kita sendiri — Seberapa asing munculnya Artificial General Intelligence (AGI), dan bagaimana kita bisa menghindari atau mengatasi ancaman semacam itu?

Di sisi lain, dorongan naluriah kita untuk mendominasi berarti bahwa kita manusia bertindak tanpa memperhatikan konsekuensinya. Kami membangun senjata nuklir, kami menghabiskan dan mencemari lingkungan kami, kami mengeksploitasi kelemahan orang lain. Kita semua tahu ini, dan ini membuat kita takut pada bayangan kita sendiri! Apakah AGI akan menjadi versi diri kita yang lebih kuat dan bahkan lebih menakutkan?

Perspektif ketiga — Masyarakat manusia sedang dalam proses menjadi lebih damai, adil, adil, dan toleran. Akankah mesin cerdas membantu kita menjaga kedamaian dan akankah mereka membebaskan kita dari pekerjaan susah payah dan kemiskinan?

Akhirnya — Teknologi kecerdasan buatan telah dibesar-besarkan sejak tahun-tahun awal komputer ketika mereka disebut “otak elektronik”. Apakah kita baru saja melewati satu siklus hype lagi yang bisa kita abaikan?

Untuk memahami di mana kita berdiri, pertama-tama mari kita renungkan diri kita sebagai mesin biologis yang cerdas. Dengan tolok ukur ini, kita dapat lebih memahami dan membandingkan diri kita dengan kecerdasan mesin yang mungkin muncul. Dengan melakukan ini, kita sampai pada kesimpulan yang mengejutkan!

Gambar 1 — Sketsa Arsitektur Kognitif Manusia

Kecerdasan Manusia

Seperti yang diilustrasikan pada gambar 1, kita melihat lingkungan kita (termasuk keadaan tubuh kita sendiri) melalui neuron sensorik, dan kita bertindak melalui neuron motorik. Kecerdasan kita, atau kekurangannya, adalah apa yang terjadi ketika sinyal sensorik yang dirasakan diproses, oleh jaringan saraf biologis kita, untuk menghasilkan tindakan saat ini dan masa depan yang kurang lebih mengesankan.

Kita dapat membedakan tingkat pemrosesan/pemikiran yang telah berkembang selama jutaan tahun evolusi. Evolusi adalah proses yang sebagian besar konservatif yang tampaknya telah mempertahankan struktur yang lebih kuno sebagai yang baru telah overlay. Mulai dari lapisan paling kuno dan bekerja hingga di mana kita sekarang:

Level 0 — respons refleksif yang terprogram selama pengembangan oleh gen kita. Sirkuit saraf ini hanya sedikit, jika sama sekali, dimodifikasi secara fungsional selama masa hidup kita masing-masing.

Level 1 — pembelajaran yang sangat paralel dan eksploitasi pola spasial-temporal yang memiliki kekuatan prediksi untuk bertahan hidup. Sinyal pembelajaran di sini adalah ketidaksesuaian harapan dan kebenaran dasar selanjutnya. Ada juga sinyal nilai di sini yang memotivasi kita dan yang kita alami sebagai emosi.

Level 2 — pemrosesan ekspresi yang terfokus pada perhatian yang terdiri dari simbol (penanda) yang menunjukkan entitas, kualitas, kuantitas, perasaan, hubungan, dan proses. Hal ini membuat spesies manusia menjadi organisme super kuat yang mampu mengirimkan informasi antar individu melintasi ruang dan waktu.

Level 3 — kita dapat menyusun (membayangkan) entitas hipotetis, situasi, proses, dan tujuan lainnya tanpa data eksternal (ekstensi) yang sesuai. Hal ini memungkinkan pemikiran referensi diri dan membuat kita menjadi mesin kreasi yang kuat secara individu.

Gambar 2 — AI Simbolik

AI Simbolis (Sistem Pakar, GOFAI)

Sirkuit logika Boolean dan register memori, dari mana komputer dibuat, ideal untuk perhitungan aritmatika dan operasi simbolik lainnya. AI simbolik adalah praktik memprogram substrat komputasi ini untuk meniru operasi sistem penulisan ulang simbol yang mengikuti aturan, seperti kalkulus predikat dan sistem produksi. Khususnya, sebaliknya, substrat komputasi manusia (jaringan neuron stokastik dan memori jangka pendek terbatas) mengemulasi komputasi simbolik dengan sangat buruk.

Selama paruh kedua abad ke-20, istilah AI digunakan untuk merujuk pada praktik merepresentasikan “pengetahuan” dalam bentuk ekspresi simbolik input dan memprosesnya untuk menghasilkan ekspresi simbolis output. Tradisi Simbolik (AI kuno yang baik) ini diilustrasikan pada gambar 2. Di sini kami juga menggambarkannya sesuai dengan pemikiran tipe 2 dari model benchmark.

Ditemukan bahwa AI simbolis menderita kekurangan kritis, yang pada akhirnya menyebabkan satu dekade atau lebih pendanaan penelitian yang tertekan (musim dingin AI) sekitar pergantian abad. Kekurangan utama yang diidentifikasi adalah:

Grounding — Sebuah bahasa simbolik berfungsi sebagai alat yang berguna ketika simbol-simbolnya mengacu pada elemen-elemen dunia yang diminati, dan pernyataannya sesuai dengan keadaan aktual dan potensial dari dunia itu. AI simbolik tidak memberikan representasi untuk entitas referensi, proses, dan interpretasi semantik tersebut.

Belajar — Alih-alih belajar, AI simbolis bergantung pada gudang pengetahuan yang dirumuskan sebagai pernyataan dalam bahasa formal. Ketersediaan langka ahli untuk mengkodekan dan memverifikasi basis pengetahuan tersebut disebut sebagai hambatan akuisisi pengetahuan.

Gambar 3 — Koneksionis AI

Koneksionis AI (Jaringan Saraf, DNN)

Koneksionis AI adalah alternatif dari tradisi simbolis di atas. Di sini kami memprogram (atau mengatur) sirkuit dan sel memori perangkat keras komputer untuk meniru operasi jaringan elemen mirip neuron. Pendekatan ini telah dilakukan oleh para peneliti yang berdedikasi sejak tahun 1940-an. Khususnya, komputer von Neumann tradisional tidak cocok untuk secara efisien meniru sistem saraf biologis. dan banyak penyederhanaan dan alternatif diupayakan.

Istilah pembelajaran mendalam dan jaringan saraf dalam (DNN) sering digunakan untuk merujuk pada inkarnasi paradigma AI koneksionis saat ini. Penekanannya di sini adalah pada tiga prinsip utama:

Representasi — Vektor multidimensi angka (tensor) digunakan untuk mewakili semua data dan status.

Pemrosesan — Sejumlah besar lapisan elemen seperti neuron non-linier dikerahkan untuk meningkatkan kekuatan pemodelan.

Pembelajaran — Pembelajaran statistik pola dalam data menggunakan algoritma propagasi balik digunakan untuk menanamkan memori jangka panjang (bobot) dalam keadaan statis jaringan.

Gambar 3 mengilustrasikan kemampuan DNN relatif terhadap arsitektur benchmark kami. Dibandingkan dengan AI simbolis, DNN adalah teknologi tipe 1 dari bawah ke atas yang dapat menerima input sensorik multimodal (gambar, audio, sentuhan, dll.) dan menggerakkan aktuator (speaker, layar, gerakan, dll.) tanpa encoding dan decoding yang rumit.

Penerapan DNN memungkinkan revolusi industri baru yang menggabungkan tenaga mekanik dan komputasi untuk menghasilkan mesin adaptif yang mampu melakukan tugas yang sebelumnya membutuhkan upaya manusia, dan bahkan manusia super. Peluang ekonomi yang besar mendorong penelitian dan pengembangan untuk mengatasi keterbatasan model dan praktik saat ini. Inti, masalah langsung, dan peluang terkait adalah:

Bahasa — Bahasa dan ekspresi simbolik lainnya digunakan untuk membawa informasi tentang domain referensi. Arsitektur koneksionis saat ini tidak dapat memanfaatkan kekuatan kritis ini.

Memori Episodik — Model saat ini tidak memiliki mekanisme yang memadai untuk mengenali dan mewakili non-stasioneritas dalam data.

Gambar 4 — Calon AGI

Kecerdasan Umum Buatan (AGI)

Dengan asumsi bahwa skema referensi Gambar 1 bermakna, jelas bahwa kita jauh dari mereplikasi pikiran seperti manusia. Karena itu, upaya untuk memahami dan merekayasa kecerdasan adalah bagian dari perjalanan kita untuk menemukan siapa/apa kita manusia dan pilihan apa yang kita miliki untuk masa depan.

Gambar 4 mengilustrasikan arsitektur prospektif yang layak untuk mesin otonom, mencakup karakteristik tipe 0, tipe 1 dan tipe 2. Kita dapat menantikan mesin otonom yang aman yang dapat mempelajari keterampilan baru dengan membaca instruksi, melakukan pekerjaan yang bermanfaat, dan bahkan menghibur dan menghibur kita.

Keselamatan — Kami akan memasukkan kebijakan untuk memastikan keputusan yang aman dan perilaku yang gagal-aman. Bahkan setelah beberapa kegagalan penting, pengalaman dengan keselamatan pesawat fly-by-wire menunjukkan bahwa sabuk pengaman terprogram seperti itu layak dilakukan.

Bahasa — Menyediakan mesin dengan bahasa alami referensial yang di-ground mungkin merupakan tantangan pengembalian tinggi yang paling menarik yang siap kami hadapi saat ini.

Memori Episodik — Representasi simbolis data yang membumi akan memungkinkan struktur memori yang lebih efisien dan ekspresif untuk menangani kompleksitas dunia, dengan sebagian model dunia yang terus-menerus mengalami perbaikan.

Hipotetis — Bahkan mesin perlu berhalusinasi tentang kemungkinan dunia dan menunda “kepuasan” untuk membuat rencana untuk orkestrasi tindakan yang koheren.

Mesin otonom dapat digunakan untuk membebaskan kita atau memperbudak dan menghancurkan kita. Mesin-mesin ini sendiri tidak memiliki agenda, agenda ditentukan oleh kita. Jika kita takut, kita takut pada diri kita sendiri!

Gambar 5 — Refleksi

“Materi gelap dan energi gelap kecerdasan”, yang diilustrasikan pada Gambar 5, masih tetap relatif terhadap patokan manusia pada Gambar 1. Apa yang tersembunyi di balik kata-kata “diri”, “motivasi” dan “emosi” dan “perasaan”, “ qualia”, “kesadaran” dan “kesadaran” yang terkait dengannya? Kami tampaknya bahkan tidak memiliki konsep yang diperlukan untuk menjawab pertanyaan seperti itu. Mungkin bersama dengan AI, kita akan menemukan beberapa jawaban?

Mengapa Kita Begitu Takut dengan AI? awalnya diterbitkan di Towards AI on Medium, di mana orang-orang melanjutkan percakapan dengan menyoroti dan menanggapi cerita ini.

Diterbitkan melalui Menuju AI