Bukan Nuklir, Ini Senjata Yang Akan Memusnahkan Manusia Kata Elon Musk

Bagaimana jika suatu saat komputer dan kecerdasan buatan (AI) jauh lebih pintar dari manusia? itulah yang menjadi perdebatan panas saat ini di kalangan para ahli teknologi. Terlebih ketika Elon Musk menyatakan pada sebuah konferensi teknologi South by Southwest di Austin, Texas, Ia mengeluarkan peringatan bahwa AI bisa sangat berbahaya di masa depan: “Tandai kata-kata saya,” katanya, miliarder pendiri Tesla dan SpaceX itu menyatakan “AI jauh lebih berbahaya daripada nuklir.”

“Saya benar-benar sangat dekat dengan teknologi AI (kecerdasan buatan) yang canggih, dan itu membuat saya takut,” katanya kepada audiens di acara konferensi tersebut. “Ini mampu jauh lebih dari yang diketahui semua orang, dan tingkat perkembangannya yang sangat pesat.” kata Musk.

Bukan hanya Elon Musk, Setahun sebelumnya, mendiang fisikawan Stephen Hawking juga berterus terang ketika dia memberi tahu audiens di sbuah acara di Portugal bahwa dampak AI bisa menjadi bencana besar kecuali perkembangan pesatnya dikontrol secara ketat dan etis.

“Kecuali kita belajar bagaimana mempersiapkan, dan menghindari, potensi risiko,” jelasnya, “AI bisa menjadi peristiwa terburuk dalam sejarah peradaban kita.” kata Hawking waktu itu.

Jika AI menjadi buruk, dan 95 persen manusia terbunuh,” katanya, “maka lima persen sisanya akan segera punah. Jadi, terlepas dari ketidakpastiannya, ia memiliki fitur-fitur tertentu dari risiko yang sangat buruk.”

Bagaimana tepatnya AI akan sampai pada titik berbahaya seperti itu? seorang Ilmuwan dan penulis kognitif Gary Marcus menjelaskan beberapa detail dalam esai terbitan New Yorker 2013 yang menjelaskan dalam tulisannya. bahwa Semakin pintar mesin, semakin banyak tujuan mereka yang bisa berubah.

“Begitu komputer dapat secara efektif memprogram ulang diri mereka sendiri, dan secara berturut-turut meningkatkan kemampuan diri mereka sendiri, yang mengarah ke apa yang disebut ‘singularitas teknologi’ atau ‘ledakan kecerdasan’, risiko mesin mengecoh manusia dalam pertempuran untuk sumber daya dan pelestarian diri tidak dapat diabaikan begitu saja.” tulisnya.

jika melihat perkembangan AI yang digunakan untuk membunuh memang sangat mengerikan. Seperti baru-baru ini, drone otonom milik Angkatan udara AS menembak seorang Jendral Iran. begitu juga Turki sedang mengembangkan secara massal drone otonom yang mampu menyerang target tanpa perintah manusia. AI bisa benar-benar mengerikan di masa depan jika tidak di kontrol.*