OpenAI tampaknya sedang bersiap untuk fase baru dalam pengembangan AI, yaitu ketika sistem bukan hanya membantu peneliti, tetapi mulai ikut melakukan riset itu sendiri. Di saat yang sama, perusahaan juga membuka perekrutan manusia untuk mengawasi risiko dari kemampuan yang justru bisa membuat sebagian pekerjaan teknis peneliti dan insinyur tergantikan.
Langkah ini menunjukkan dua gerak yang berjalan bersamaan. OpenAI mendorong otomatisasi riset AI, namun pada saat yang sama membangun lapisan pengawasan agar kemampuan tersebut tidak berkembang tanpa kendali.
Business Insider melaporkan bahwa OpenAI membuka posisi baru di tim keselamatan Preparedness. Posisi ini ditujukan untuk meneliti apa yang terjadi ketika sistem AI mampu melatih dan meningkatkan versi AI berikutnya, dengan paket gaji antara $295,000 hingga $445,000.
Dalam deskripsi pekerjaannya, OpenAI menyebut fokus peran itu adalah menyiapkan diri untuk “recursive self-improvement” pada sistem AI. Istilah ini merujuk pada skenario ketika AI dapat membangun versi yang lebih pintar dari dirinya sendiri tanpa terlalu bergantung pada campur tangan manusia.
Perusahaan juga menegaskan bahwa pekerjaan tersebut akan menangani persoalan yang “mungkin ada di masa depan, tetapi mungkin belum ada sekarang.” Artinya, OpenAI mencari orang yang dipandang mampu membaca risiko teoretis yang bisa berubah menjadi nyata dengan cepat.
Arah itu sejalan dengan target yang sebelumnya disampaikan CEO OpenAI, Sam Altman. Pada Oktober 2025, Altman mengatakan OpenAI ingin menciptakan “automated AI research intern” yang berjalan di atas ratusan ribu chip pada September tahun ini.
Altman juga menyebut target yang lebih jauh, yakni mencapai “true automated AI researcher” pada Maret 2028. Ia mengakui perusahaan itu bisa saja gagal total, tetapi menilai keterbukaan soal ambisi tersebut penting bagi kepentingan publik.
Dorongan menuju otomatisasi riset makin kuat karena kemajuan model AI di bidang pemrograman. Dalam beberapa bulan terakhir, alat AI untuk coding dari OpenAI dan Anthropic berkembang cepat dan membuat gagasan bahwa AI bisa mengambil alih lebih banyak pekerjaan teknis terasa semakin dekat.
Di titik ini, persoalannya tidak lagi hanya soal produktivitas. Semakin cakap sistem AI dalam tugas teknis, semakin besar pula pertanyaan tentang kontrol ketika sistem itu mulai mampu memperbaiki dirinya sendiri.
Risiko yang ikut diawasi
Lowongan OpenAI itu tidak hanya menyorot ambisi, tetapi juga jenis ancaman yang ingin diantisipasi sejak awal. Salah satu fokus utamanya adalah pertahanan terhadap “data poisoning”, yakni serangan yang sengaja merusak data pelatihan untuk memanipulasi perilaku AI.
Peran tersebut juga dapat mencakup pembangunan alat untuk membantu menafsirkan cara AI bernalar di dalam sistemnya. Selain itu, peneliti yang direkrut akan melakukan eksperimen pada model untuk memahami potensi bahaya sebelum risiko itu berubah menjadi ancaman nyata.
OpenAI juga secara eksplisit menyebut pelacakan “automation of technical staff”. Pengukuran itu mencakup sejauh mana alat coding AI menggantikan atau membantu insinyur manusia.
Di sana terlihat ironi yang cukup tajam. Perusahaan merekrut manusia dengan bayaran tinggi untuk meneliti masa depan AI, sambil menyiapkan metrik untuk menilai kapan AI mulai mengambil alih pekerjaan teknis yang selama ini dikerjakan manusia.
Tim Preparedness memang dibentuk untuk mencegah bahaya besar yang berkaitan dengan AI. Cakupannya meliputi ancaman siber, risiko biologis, penyalahgunaan kimia, dan bahaya dari agen AI yang sangat otonom.
Deskripsi lowongan itu juga menyebut pekerjaan tersebut bersifat mendesak dan bisa berdampak luas. Dampaknya dinilai bukan hanya untuk OpenAI, tetapi juga untuk masyarakat secara keseluruhan.
Persaingan industri ikut mendorong arah ini
Arah otomatisasi riset AI juga terlihat dari temuan organisasi riset kemampuan AI, METR. Dalam laporan Maret, para penelitinya mengatakan jumlah pekerjaan yang bisa ditangani sistem AI canggih tampak berlipat ganda kira-kira setiap tujuh bulan.
Menurut METR, tren itu pada akhirnya dapat membuat agen AI mengambil alih tugas perangkat lunak yang saat ini masih membutuhkan programmer manusia selama berhari-hari atau bahkan berminggu-minggu. Temuan ini ikut memperkuat alasan mengapa perusahaan AI kini tidak hanya membangun model yang lebih kuat, tetapi juga menyiapkan sistem pengawasan dan mitigasi.
OpenAI sendiri sedang agresif mendorong alat coding Codex ke pasar perusahaan. Langkah itu menunjukkan bahwa pengembangan perangkat lunak berbasis AI dipandang sebagai salah satu sumber pendapatan besar.
Anthropic juga bergerak di jalur serupa. Perusahaan itu meneliti bagaimana sistem AI dapat mengawasi sistem AI lain yang lebih kuat, dan baru-baru ini menerbitkan riset yang menunjukkan keberhasilan awal, meski hasilnya masih terbatas.
Salah satu pendiri Anthropic, Jack Clark, bahkan memperkirakan ada peluang sekitar 60 persen bahwa riset dan pengembangan AI bisa berlangsung tanpa keterlibatan langsung manusia pada akhir 2028. Jika arah itu terus berlanjut, perekrutan OpenAI saat ini memperlihatkan bahwa industri mulai memandang otomatisasi riset sebagai skenario yang perlu disiapkan sejak sekarang.
Source: www.indiatoday.in
