Benarkah AI akan mengancam umat manusia?

Gemini atau Meta AI dari Google juga dapat melakukan percakapan teks dengan pengguna.

Aplikasi seperti Midjourney atau Veo 3 dikhususkan untuk membuat gambar atau video dari perintah teks sederhana.

AI generatif juga dapat digunakan untuk membuat musik berkualitas tinggi.

Lagu-lagu yang meniru gaya atau suara musisi terkenal telah menjadi viral, terkadang membuat penggemar bingung tentang keasliannya.

Meskipun mengakui potensi AI, sejumlah pakar mencemaskan implikasi dari pertumbuhannya yang pesat.

Dana Moneter Internasional (IMF) menyatakan bahwa AI dapat memengaruhi hampir 40% lapangan kerja dan memperburuk ketimpangan global.

Profesor Geoffrey Hinton, seorang ilmuwan komputer yang dianggap sebagai “bapak baptis” pengembangan AI, memperingatkan bahwa sistem AI yang canggih bahkan dapat menyebabkan kepunahan manusia.

Namun rasa cemas Hinton disanggah Yann LeCun, yang memiliki reputasi serupa dengannya di bidang pengembangan AI.

Sejak awal September lalu, kekhawatiran serupa kembali muncul. Ini dipicu beberapa peneliti AI yang muncul ke publik dan memperingatkan bahwa teknologi ini dapat mengancam umat manusia dalam waktu dekat.

Namun para ahli mendesak agar kekhawatiran diarahkan untuk mengatasi risiko dan bahaya AI yang telah muncul saat ini. AI diyakini sudah meningkatkan potensi reproduksi informasi yang bias, atau mendiskriminasi beberapa kelompok sosial.

Pemicunya adalah data publik untuk melatih banyak sistem AI mencerminkan bias sosial yang ada di masyarakat, seperti seksisme atau rasisme.

Dan meskipun alat AI semakin mahir, alat tersebut masih rentan terhadap kesalahan.

Sistem AI generatif dikenal karena kemampuannya untuk “berhalusinasi” dan menyatakan hal-hal yang salah sebagai fakta, bahkan terkadang mengarang sumber untuk informasi yang tidak akurat.

Pada awal 2025, Apple menarik fitur AI setelah teknologi yang mereka buat itu meringkas notifikasi aplikasi berita secara tidak tepat.

Google juga menghadapi kritik atas ketidakakuratan yang dihasilkan oleh ringkasan pencarian AI-nya.

Selain itu, ada pula kekhawatiran tentang penggunaan AI di sekolah dan tempat kerja. Para siswa dicemaskan menggunakan AI untuk mencontek tugas sementara para karyawan menyalahgunakannya untuk mereplikasi pekerjaan.

Sekelompok penulis, musikus, dan pelaku seni telah menentang teknologi ini atas dasar etika.

Banyak pihak telah mengeluarkan pernyataan atau menandatangani surat terbuka. Mereka menuduh para pengembang AI menggunakan karya mereka untuk melatih sistem tanpa persetujuan atau kompensasi.

Ribuan pelaku seni, seperti Bjorn Ulvaeus, penulis Ian Rankin dan Joanne Harris, serta aktris Julianne Moore, menandatangani pernyataan pada Oktober 2024 yang menyebut AI sebagai “ancaman besar dan tidak adil” terhadap mata pencaharian mereka.

Belum jelas berapa banyak energi yang digunakan sistem AI. Namun sejumlah periset memperkirakan konsumsi energi industri ini hampir setara dengan energi yang dikonsumsi Belanda.

Pembuatan chip komputer canggih yang dibutuhkan untuk menjalankan program AI membutuhkan banyak daya dan air.

Permintaan akan layanan AI generatif juga berarti peningkatan jumlah pusat data yang mendukungnya.

Berbagai ruangan besar, untuk menempatkan ribuan rak server komputer, seringkali menggunakan energi dalam jumlah besar. Ruangan ini juga membutuhkan volume air yang besar untuk menjaga suhunya tetap dingin.

Beberapa perusahaan teknologi besar telah berinvestasi dalam cara untuk mengurangi atau menggunakan kembali air yang dibutuhkan, atau telah memilih metode alternatif seperti pendinginan udara.

Namun, beberapa ahli dan aktivis khawatir bahwa AI akan memperburuk masalah pasokan air.

Pada Februari lalu, BBC mendapat informasi bahwa pemerintah UK berencana menjadikan UK sebagai “pemimpin dunia” dalam AI. Rencana itu diyakini dapat memperparah pasokan air minum yang sudah dialami masyarakat.

Pada September 2024, Google mengatakan akan mempertimbangkan kembali proposal untuk pusat data di Chili, yang telah berjuang melawan kekeringan.

Indonesia tidak memiliki aturan setara undang-undang yang meregulasi AI secara khusus.

Kementerian Komunikasi dan Digital mengeluarkan Surat Edaran Nomor 9 Tahun 2023. Aturan ini mengatur etika kecerdasan artifisial sebagai salah satu acuan pemanfaatannya secara bertanggung jawab.

Pemerintah mengklaim tengah menyiapkan peta jalan AI Nasional serta panduan etika AI. Ini diklaim akan menjadi bagian dari kerangka tata kelola AI Indonesia.

Beberapa pemerintah telah memperkenalkan aturan yang mengatur cara kerja AI.

Undang-Undang Kecerdasan Buatan Uni Eropa (UEA) menetapkan kontrol pada sistem berisiko tinggi yang digunakan di berbagai bidang seperti pendidikan, perawatan kesehatan, penegakan hukum, atau pemilihan umum. Undang-undang ini melarang beberapa penggunaan AI secara keseluruhan.

Pengembang AI generatif di China diwajibkan untuk melindungi data warga negara, dan mempromosikan transparansi dan akurasi informasi. Namun, mereka juga terikat oleh undang-undang sensor ketat negara tersebut.

Banyak negara, termasuk UK, telah berupaya mengatur AI melalui undang-undang yang ada ketimbang membuat regulasi baru. Salah satu alasannya, undang-undang bisa dengan cepat menjadi usang seiring perkembangan AI.

UK telah mengubah regulasi untuk menargetkan bahaya AI tertentu, seperti melarang alat yang dapat membuat gambar telanjang deepfake atau membuat materi pelecehan seksual anak.

UK juga telah mendirikan Institut Keamanan AI independen untuk mengidentifikasi risiko dan mengevaluasi model AI canggih.

Sementara itu, UK telah menandatangani perjanjian dengan AS untuk berkolaborasi dalam metode pengujian AI yang “kuat”.

Namun pada awal tahun 2025, kedua negara tersebut tidak menandatangani deklarasi AI global yang menjanjikan pendekatan terbuka, inklusif, dan berkelanjutan terhadap teknologi tersebut.