Jakarta, CNN Indonesia —
Dalam beberapa tahun terakhir, perkembangan teknologi kecerdasan buatan (AI) semakin pesat. Pesatnya perkembangan AI membuat banyak ahli khawatir karena bahaya yang mungkin ditimbulkannya.
Menurut Michael Wade, direktur Pusat Global untuk Transformasi Bisnis Digital di Institut Internasional untuk Pengembangan Manajemen, terdapat empat tingkat risiko dari kecerdasan umum buatan (AI), yaitu sistem AI yang dapat beroperasi secara mandiri tanpa dukungan dan kendali manusia.
Empat tingkat risiko AGI yang tidak terkendali adalah risiko rendah, sedang, tinggi, dan kritis. Menurut Wade, dunia kini memasuki fase kritis.
“Saat ini kita sedang bergerak dari tingkat risiko menengah ke tingkat risiko tinggi. Perkembangan AGI sangat penting dan jika tidak dikendalikan akan menjadi bencana bagi umat manusia. Risikonya serius, namun belum terlambat. untuk bertindak,” katanya. Keterangan tertulisnya, Rabu (2/10).
“Regulasi yang efektif dan terintegrasi dapat membatasi risiko terburuk tanpa mengurangi manfaat kemajuan teknologi tersebut,” ujarnya.
Menurut Wade, banyak hal yang akan membahayakan dunia ketika perkembangan AGI tidak bisa dikendalikan oleh manusia.
Dia mencontohkan AI mendapatkan kendali dan kendali, mulai dari senjata nuklir, biologi, atau kimia. Tiongkok juga saat ini mempercepat komersialisasi robot humanoid, termasuk penerapannya pada infrastruktur sensitif seperti jaringan listrik dan pembangkit listrik tenaga nuklir.
Wade mencatat bahwa jika tidak ada regulasi yang jelas, AI dapat digunakan untuk mengendalikan atau mengganggu pasar keuangan; Hal ini dapat digunakan untuk mengendalikan atau mengganggu infrastruktur penting seperti energi, transportasi, komunikasi, air dan banyak lagi.
Vaad kemudian menjelaskan potensinya untuk digunakan untuk mengontrol atau mengganggu sistem politik, jaringan sosial, serta ekosistem biologis dan ekologi. Terakhir, AI merupakan ancaman langsung terhadap kehidupan manusia.
Pentingnya tata kelola
Banyak negara dan institusi, serta orang-orang di balik pengembangan AI, telah menyatakan perlunya mengatur penggunaan kecerdasan buatan.
Joshua Bengio, salah satu yang disebut sebagai ‘bapak baptis’ AI, kini percaya bahwa teknologi ini dapat merugikan masyarakat dan menimbulkan bahaya yang bahkan tidak terpikirkan oleh orang-orang.
Mengutip Live Science, “Orang selalu mengatakan risiko ini adalah fiksi ilmiah, padahal sebenarnya tidak. Dalam jangka pendek, kita bisa melihat AI digunakan dalam kampanye pemilu AS dan hal ini hanya akan menjadi lebih buruk.”
Menurutnya, penelitian terbaru menunjukkan bahwa ChatGPT-4, chatbot AI yang dikembangkan oleh perusahaan OpenAI, lebih baik dalam persuasi dibandingkan manusia. Selain itu, katanya, ada juga tantangan bagaimana sistem ini dapat membantu teroris.
“Jika Anda melihat lebih jauh ke masa depan, kita menghadapi dua bahaya utama saat kita mencapai tingkat kecerdasan super. Yang pertama adalah hilangnya kendali manusia. Jika mesin super cerdas memiliki tujuan untuk mempertahankan diri, mereka dapat menghancurkan umat manusia. Kita tidak dapat menghancurkannya. mereka,” katanya.
Bengio memperingatkan bahwa teknologi AI dapat digunakan oleh para diktator untuk mengendalikan masyarakat di seluruh dunia.
Menurutnya, dengan segala risiko dan kemungkinan ancaman tersebut, sebaiknya pihak yang berwenang menetapkan aturan yang jelas terkait penggunaan AI.
Namun AI mencatat beberapa pihak berkembang menolak rencana regulasi tersebut. Mereka berpendapat bahwa regulasi hanya akan mengurangi inovasi dalam teknologi AI.
“Bukan berarti kita berhenti berinovasi, upaya tentu bisa diarahkan pada pembangunan alat yang membantu perekonomian dan kesejahteraan masyarakat. Jadi ini argumen yang salah,” kata Bengio.
“Kita punya peraturan untuk segala hal, mulai dari sandwich, mobil, hingga pesawat yang kita naiki. Kita mengalami banyak kecelakaan sebelum adanya peraturan. Sama halnya dengan obat-obatan. Kita bisa punya teknologi untuk membantu dan mengendalikannya. Ini berhasil bagi kita,” dia menyimpulkan.
(Benar/Palsu)
