Persaingan menuju AGI kini bukan lagi sekadar soal siapa yang lebih cepat merilis teknologi. Stuart Russell, pakar kecerdasan buatan dari University of California, Berkeley, menilai dorongan untuk menjadi yang pertama justru membuat keamanan makin tertinggal.
Russell melihat AGI sebagai kecerdasan buatan yang mampu memahami, belajar, dan menyelesaikan beragam tugas secara umum seperti manusia. Dalam persidangan yang dikutip TechCrunch, ia menyoroti ketegangan antara kecepatan pengembangan dan keamanan sebagai inti masalah yang membayangi perlombaan itu.
Ia juga mengingatkan bahwa pengembangan AI membawa risiko serius, termasuk ancaman keamanan siber dan persoalan ketidakselarasan sistem. Menurut Russell, industri AGI cenderung bergerak dalam pola “winner-take-all”, sehingga perusahaan yang unggul lebih dulu berpotensi menguasai pasar secara dominan.
Di pengadilan federal, Russell menyampaikan bahwa risiko-risiko itu tidak bisa dipisahkan dari ambisi membangun sistem yang makin canggih. Dari ancaman siber hingga dominasi pasar yang tidak sehat, ia menilai tekanan kompetisi antarlaboratorium AI justru membuat perhatian pada keselamatan mudah tersisih.
Perdebatan meluas ke model bisnis
Di sisi OpenAI, pengacara perusahaan berupaya menunjukkan bahwa Russell tidak menilai langsung struktur perusahaan maupun kebijakan keamanan spesifik milik OpenAI. OpenAI juga berargumen bahwa perubahan menuju model profit dibutuhkan untuk menopang kebutuhan daya komputasi yang sangat besar dalam pengembangan AI.
Pernyataan itu membuat pembahasan bergeser dari tujuan teknologi ke cara bisnis di belakangnya dijalankan. Dalam konteks kebutuhan infrastruktur yang mahal, perlombaan AGI ikut terkait dengan kekuatan modal dan kemampuan mengamankan sumber daya komputasi.
Musk ikut terseret dalam sorotan
Nama Elon Musk juga mendapat perhatian dalam persidangan ini karena langkahnya dinilai kontradiktif. Musk pernah ikut menandatangani surat yang meminta penundaan riset AI selama enam bulan pada Maret 2023 dengan alasan keamanan, tetapi tak lama kemudian justru meluncurkan xAI sebagai laboratorium AI komersial miliknya sendiri.
Dalam kesaksiannya, Musk turut membuat pernyataan yang menarik perhatian pasar otomotif dan pemegang saham. Ia mengatakan Tesla tidak memiliki rencana untuk mengejar pengembangan AGI secara spesifik, meski perusahaan itu sebelumnya mengumumkan rencana pengeluaran modal sebesar US$25 miliar atau sekitar Rp433 triliun pada 2026 yang sebagian besar dialokasikan untuk proyek berbasis AI.
“Tesla tidak memiliki rencana untuk mengejar AGI,” kata Musk saat menjawab pertanyaan dalam pemeriksaan silang. Pernyataan itu menambah lapisan baru dalam perdebatan soal sejauh mana perusahaan-perusahaan besar benar-benar memisahkan ambisi AI dari proyek bisnis mereka.
Praktik industri ikut jadi sorotan
Musk juga mengakui bahwa xAI melakukan praktik “distilasi” terhadap teknologi dari OpenAI. Distilasi adalah teknik menggunakan model AI yang lebih kuat untuk melatih model yang lebih kecil dan lebih murah, dan menurut Musk praktik itu lazim di industri AI.
Pengakuan tersebut terasa ironis karena Musk sebelumnya kerap mengkritik kompetitor lain, termasuk Anthropic, dengan tudingan mengambil data tanpa izin. Kontras antara kritik di ruang publik dan pengakuan di pengadilan memperlihatkan betapa sengitnya persaingan di sektor AI saat ini.
Dorongan regulasi mulai menguat
Polemik AGI kini juga merembet ke ranah kebijakan publik. Para pembuat kebijakan disebut mulai mempertimbangkan regulasi yang lebih ketat terhadap pusat data, seiring meningkatnya kekhawatiran atas dampak ekspansi infrastruktur AI.
Senator Bernie Sanders, misalnya, telah mengusulkan moratorium konstruksi pusat data karena kekhawatiran yang sejalan dengan pandangan para tokoh teknologi. Di tengah dorongan bisnis yang semakin besar, persidangan ini ikut menyoroti sejauh mana protokol keamanan AI masih diberi ruang dalam perlombaan menuju AGI.
Source: teknologi.bisnis.com
