Jumat, 19 April 2024 12:57:17 WIB

Pendiri Perusahaan Teknologi Tiongkok: Robot Tempur Bertenaga AI dapat Membuka Kotak Pandora Baru

Teknologi

Eko Satrio Wibowo

Beijing, Radio Bharata Online - Menurut seorang pendiri perusahaan teknologi Tiongkok, upaya untuk menggunakan kecerdasan buatan (Artificial intelligence/AI) untuk menciptakan robot tempur berisiko membuka pintu gerbang untuk memberikan kemauan independen kepada robot.

Dalam sebuah diskusi panel baru-baru ini dengan China Central Television (CCTV), Zhou Hongyi, pendiri perusahaan keamanan Internet Tiongkok 360 Security Technology, memperingatkan bahaya penggunaan kecerdasan buatan (AI). Zhou menyoroti masalah kredibilitas dan kontrol konten di era AI.

"Salah satu masalah yang mendesak adalah kredibilitas, kegunaan, dan pengendalian konten yang dihasilkan oleh AI. Perbedaan terbesar antara kecerdasan buatan dan mesin pencari adalah bahwa mesin pencari tidak memiliki kecerdasan dan hanya mencari dan mengambil konten yang sudah ada. Jika tidak ada, mesin pencari tidak akan menghasilkan apa-apa. Namun, sistem AI dapat membuat sesuatu yang tidak ada. Jadi, AI dapat digunakan untuk melakukan kecurangan, atau bahkan untuk mengintervensi pemilihan presiden. Jika seseorang menggunakan wajah calon presiden untuk membuat video palsu, hal ini dapat mempengaruhi hasil pemilu dan bahkan perdamaian dunia," kata Zhou.

Kekhawatiran Zhou tidak hanya terbatas pada manipulasi konten, tetapi juga pada senjata otonom. Media AS telah melaporkan bahwa OpenAI, pencipta ChatGPT, diam-diam telah mencabut larangan penggunaan ChatGPT dan perangkat kecerdasan buatan lainnya oleh militer, dan mulai bekerja sama dengan Departemen Pertahanan AS.

Zhou mengungkapkan kekhawatirannya terhadap prospek robot bertenaga AI yang membuat keputusan hidup atau mati tanpa campur tangan manusia.

"Kemarin, saya dikejutkan oleh berita bahwa AI telah digunakan dalam mengembangkan senjata, yaitu robot tempur, dengan beberapa memiliki sayap atau roda dan beberapa memiliki jejak atau kaki. Jika Anda benar-benar ingin mengembangkan robot tempur, Anda harus memberinya hak untuk menarik pelatuk. Dengan kata lain, robot dapat membuat keputusan sendiri untuk menembaki manusia. Karena robot tidak memiliki kesadaran, Anda dapat memprogramnya dengan fungsionalitas yang mendalam dan memberdayakannya dengan kemauan yang mandiri," kata Zhou.

"Jika sebuah robot memiliki program yang memerintahkannya untuk bertahan hidup, itu merupakan semacam kesadaran. Kemudian, perilakunya akan menjadi tidak dapat diprediksi. Ini berarti kotak Pandora baru akan terbuka. Jadi, Anda dapat memahami perasaan kontradiktif dan campur aduk para ilmuwan seperti J. Robert Oppenheimer ketika mereka membuka kotak Pandora bom nuklir," katanya.

Peringatan Zhou muncul di tengah perdebatan internasional yang terus berkembang mengenai implikasi etika dari AI. Seiring dengan perkembangan teknologi AI, sangat penting untuk mempertimbangkan potensi risikonya.

Komentar