Perkembangan kecerdasan buatan (AI) memasuki fase baru. Teknologi ini perlahan berubah dari sekadar alat yang membantu manusia menjadi sistem yang bisa menjalankan berbagai pekerjaan secara mandiri.

Kondisi tersebut menjadi perhatian Dario Amodei, CEO Anthropic. Ia menilai perkembangan kemampuan AI saat ini berlangsung sangat cepat dan berpotensi menciptakan risiko baru jika tidak diimbangi dengan sistem keamanan yang memadai.

Salah satu skenario yang menjadi sorotan adalah munculnya sekelompok agen AI yang mampu bekerja secara bersamaan melalui internet.

AI Bisa Bekerja Secara Mandiri

Selama ini, pengguna biasanya memberikan instruksi kepada chatbot, kemudian AI menghasilkan jawaban. Namun, perkembangan AI agent membuat cara kerja tersebut mulai berubah.

AI agent dapat diberikan sebuah tujuan, kemudian melakukan sejumlah langkah untuk mencapainya. Misalnya, mencari informasi, menggunakan berbagai aplikasi, menjalankan kode, menganalisis data, hingga mengambil keputusan berdasarkan hasil yang ditemukan.

Bayangkan jika kemampuan tersebut dimiliki bukan oleh satu AI, melainkan oleh ribuan atau bahkan jutaan agen yang dapat berkomunikasi dan bekerja sama.

Inilah gambaran yang membuat Amodei waspada.

Menurutnya, dalam rentang 6 hingga 12 bulan, kemampuan AI berpotensi berkembang hingga memungkinkan terbentuknya semacam “pasukan AI” yang mampu melakukan berbagai aktivitas di internet dengan tingkat kemandirian yang jauh lebih tinggi.

Namun, pernyataan tersebut bukan berarti Amodei memastikan internet akan benar-benar dikuasai AI dalam waktu satu tahun. Ia lebih menyoroti potensi risiko apabila kemampuan AI berkembang lebih cepat daripada teknologi pengamanannya.

Ancaman Tidak Harus Berbentuk Robot

Kekhawatiran mengenai AI sering kali digambarkan melalui robot yang mengambil alih dunia. Padahal, ancaman yang dimaksud dalam konteks ini justru berada di ruang digital.

AI tidak perlu memiliki tubuh fisik untuk memberikan dampak besar. Jika mampu mengendalikan banyak akun, sistem komputer, layanan digital, atau menjalankan tugas secara otomatis, AI sudah dapat melakukan berbagai aktivitas di internet dalam skala besar.

Risikonya semakin besar apabila teknologi tersebut disalahgunakan untuk melakukan penipuan, menyebarkan informasi palsu, menyerang sistem komputer, atau menjalankan operasi digital lainnya secara otomatis.

Keamanan AI Perlu Ikut Dikebut

Menurut Amodei, tantangan terbesar bukan hanya membuat AI semakin pintar. Industri juga harus memastikan bahwa sistem tersebut tetap dapat dikendalikan dan tidak mudah disalahgunakan.

Artinya, pengembangan kemampuan AI dan teknologi keamanan perlu berjalan beriringan. Jangan sampai perusahaan berlomba membuat model yang semakin canggih, sementara mekanisme untuk mengawasi dan membatasi perilakunya masih tertinggal.

Ia juga mendorong adanya pengujian keamanan yang lebih ketat serta kerja sama yang lebih luas antara perusahaan teknologi dan pemerintah.

AI Tetap Punya Potensi Besar

Meski menyampaikan kekhawatiran, Amodei bukan berarti menganggap AI sebagai teknologi yang sepenuhnya berbahaya.

Sebaliknya, AI dinilai memiliki potensi besar untuk membantu manusia di berbagai bidang, mulai dari penelitian ilmiah, kesehatan, pendidikan hingga produktivitas.

Persoalannya adalah bagaimana teknologi tersebut dikembangkan dan digunakan.

Jika kemampuan AI terus meningkat dengan sangat cepat, pertanyaan pentingnya bukan lagi sekadar “Seberapa pintar AI bisa dibuat?”, tetapi juga “Seberapa baik manusia mampu mengendalikannya?”

Peringatan dari bos Anthropic tersebut menunjukkan bahwa perlombaan AI kini tidak hanya soal siapa yang memiliki model paling canggih. Keamanan dan kendali atas AI juga menjadi bagian penting dari persaingan teknologi masa depan.