CEO OpenAI mendesak AS untuk mempersiapkan risiko dan keuntungan ‘superintelijen’ AI

Kepala Eksekutif OpenAI, Sam Altman, mengatakan bahwa para pembuat kebijakan AS harus segera bertindak untuk mempersiapkan kecerdasan buatan yang maju, memperingatkan bahwa teknologi ini sedang bergerak dari teori ke dalam penggunaan ekonomi sehari-hari.

Dalam sebuah wawancara dengan Axios, Altman menyatakan bahwa sistem AI saat ini sudah menangani tugas pemrograman dan penelitian yang sebelumnya memerlukan tim programmer. Model-model terbaru akan melangkah lebih jauh, katanya, membantu para ilmuwan membuat penemuan besar dan memungkinkan individu melakukan pekerjaan yang biasanya dilakukan oleh seluruh kelompok.

Perubahan tersebut sudah terlihat dalam bidang keamanan siber, di mana beberapa pemimpin industri menyatakan bahwa kecerdasan buatan sedang menggeser keseimbangan ke arah para penyerang.

Charles Guillemet, chief technology officer di pembuat dompet perangkat keras Ledger, misalnya, mengatakan kepada CoinDesk bahwa alat AI adalah menurunkan biaya dan keterampilan yang dibutuhkan untuk menemukan dan memanfaatkan celah perangkat lunak. Tugas yang sebelumnya memakan waktu berbulan-bulan, seperti membalikkan rekayasa kode atau menghubungkan beberapa kerentanan, kini dapat diselesaikan dalam hitungan detik dengan prompt yang tepat.

Industri kripto mencatat lebih dari $1,4 miliar aset yang dicuri atau hilang akibat serangan pada tahun lalu. Angka tersebut berpotensi terus meningkat, menurut Guillemet. Selain itu, para pengembang semakin mengandalkan kode yang dihasilkan oleh AI, yang berpotensi memperkenalkan kerentanan baru dalam skala besar.

Respon tersebut, katanya, akan memerlukan pertahanan yang lebih kuat seperti kode yang diverifikasi secara matematis, perangkat keras yang menjaga kunci pribadi tetap offline, dan pengakuan yang lebih luas bahwa sistem dapat mengalami kegagalan.

AI dalam keamanan siber, biosekuriti

Sementara Altman mencatat bahwa AI dapat mempercepat penemuan obat atau ilmu material, dia juga mengingatkan bahwa AI dapat memungkinkan serangan siber yang lebih kuat serta menurunkan hambatan untuk penelitian biologis yang berbahaya. Ancaman semacam itu mungkin muncul dalam waktu satu tahun, yang menjadikan koordinasi antara pemerintah, perusahaan teknologi, dan kelompok keamanan menjadi sangat mendesak.

“Kita tidak terlalu jauh dari dunia di mana ada model open-source yang sangat mumpuni dan sangat baik di bidang biologi,” katanya. “Kebutuhan masyarakat untuk tangguh menghadapi kelompok teroris yang menggunakan model ini untuk mencoba menciptakan patogen baru bukan lagi hal teoritis.”

Contoh lain yang dia kemukakan adalah “serangan siber yang mengguncang dunia” yang dapat terjadi secepat tahun ini. Menghindari hal itu, katanya, akan membutuhkan “banyak sekali pekerjaan.”

Ia merumuskan gagasan kebijakan OpenAI sebagai titik awal, dengan tujuan mendorong perdebatan tentang cara mengelola sistem yang belajar dengan cepat dan bertindak di berbagai bidang. Menggunakan AI untuk membantu mempertahankan diri terhadap potensi serangan ini, katanya, adalah hal yang penting.

Mengenai potensi nasionalisasi OpenAI, Altman menyatakan bahwa kasus terhadapnya bergantung pada kebutuhan Amerika Serikat untuk mencapai “superintelligence” sebelum pesaingnya.

“Kasus terbesar menentang nasionalisasi adalah bahwa kita membutuhkan Amerika Serikat untuk berhasil membangun superinteligensi dengan cara yang sejalan dengan nilai-nilai demokrasi Amerika Serikat sebelum ada pihak lain yang melakukannya,” ujarnya. “Menurut saya, itu mungkin tidak akan berhasil jika dijalankan sebagai proyek pemerintah, dan saya rasa itu hal yang menyedihkan.”

Namun, Altman mengatakan dia percaya perusahaan yang terlibat dalam AI harus bekerja sama secara erat dengan pemerintah AS.

Mengingat perannya di OpenAI, Altman juga memiliki kepentingan finansial dalam bagaimana sektor ini berkembang. Posisi tersebut mungkin memengaruhi cara dia mengemukakan urgensi regulasi serta peran perusahaan swasta seperti OpenAI dalam mengelola risiko yang muncul, yang dapat berdampak pada posisi kompetitif perusahaan tersebut.

AI sebagai utilitas

Energi adalah salah satu bidang di mana dia melihat kemajuan cepat karena kapasitas daya pemrosesan yang lebih besar dapat menjaga biaya tetap rendah seiring meningkatnya permintaan AI.

Altman juga menunjukkan tanda-tanda awal pergeseran tenaga kerja. Seorang programmer pada tahun 2026, menurutnya, sudah bekerja dengan cara yang berbeda dibandingkan dengan satu tahun sebelumnya.

AI akan menjadi semacam utilitas, seperti listrik, tertanam di berbagai perangkat sementara biaya kecerdasan dasar menurun dan sistem unggulan tetap mahal.

“Anda akan memiliki asisten super pribadi yang berjalan di cloud,” kata Altman. “Jika Anda menggunakannya secara intensif atau pada tingkat kecerdasan yang tinggi, tagihan Anda akan lebih tinggi pada suatu bulan, dan jika Anda menggunakannya lebih sedikit, tagihan Anda akan lebih rendah.”

Sangat penting bahwa orang-orang yang membangun AI adalah individu dengan integritas tinggi dan dapat dipercaya.