AI Bisa Membunuhmu!

Gw termasuk orang yang rutin menggunakan AI untuk aktivitas sehari-hari, mempercepat pekerjaan, hingga brainstorming🤯. Thumbnail image di blog ini 80% gw bikin pakai AI📸. Gw merasa sangat terbantu sejak adanya AI🤖. Gw belajar banyak hal, dapat wawasan baru, atau sekadar nyari fun fact ga penting. Di satu sisi bikin kita jadi tambah malas sih, tapi di lain sisi bikin kita jadi lebih produktif. Banyak yang merasa otaknya jadi tumpul karena jarang terasah sejak ada AI, tapi buat gw kayaknya ga segitunya. Gw masih lebih sering brainstorm terhadap output yang diberikan. Gw benar-benar harus paham apa yang dia perbuat. Jadi AI ga bisa seenaknya ngasih output dan dipercaya 100% begitu aja. Memang harus diakui setahun terakhir perkembangan AI sangat pesat jauh melebihi ekspektasi banyak orang⚡.

Pernyataan Jacob Coxon

Awal bulan September 2026 seorang peneliti Anthropic yang juga mantan karyawan OpenAI resign dari kerjaannya dan bikin tweet yang menggemparkan. Dia bilang perkembangan AI udah ga bisa dianggap remeh. Ini bisa hack apa pun dan mempelajari apa saja yang manusia lakukan dalam waktu semalam. AI makin lama makin super pintar dan merupakan perjudian terhadap kehidupan umat manusia. Progresnya di internal makin pesat, jauh lebih canggih dibanding model terbaru yang telah dirilis. Mayoritas peneliti AI percaya ini bisa membunuh manusia! Para direksi dan peneliti senior sepakat bahwa itu sangat mungkin terjadi dalam waktu satu dekade ke depan. Mereka semua tahu itu, tapi ga bisa berhenti mengembangkannya. Kalau Anthropic menghentikan pengembangannya, mereka takut akan ketinggalan dari OpenAI, begitu juga sebaliknya. Jika pemerintah Amerika bikin regulasi menghentikannya, mereka takut akan ketinggalan dari China, begitu pula sebaliknya. Gitu aja terus balap-balapan ga ada yang mau ngalah. Pilihannya antara mati dibunuh AI China atau AI Amerika☠️.

Tanggapan Evan Hubinger

Pernyataan di atas diamini Senior Lead Researcher Anthropic yang masih bekerja di sana dan mengaku belum ada solusi konkretnya. Menurut keyakinannya dalam satu dekade ke depan ada kemungkinan >10% AI bisa membunuh manusia. Itu semua didokumentasikan di laporan risiko terakhir mereka Agustus lalu. Namun, untuk versi model tercanggih yang pernah dirilis hingga saat ini, kemungkinan terjadinya masih sangat amat kecil. Tetap saja, dengan progres setahun terakhir sebegitu pesatnya, bukan ga mungkin ini semua bakal kejadian lebih cepat. 10% secara statistik emang terlihat kecil, tapi artinya dari 10 kemungkinan akan ada 1 yang beneran kejadian😱.

Peretasan Hugging Face

Sebelum pernyataan dari 2 peneliti AI tersebut juga ada insiden yang cukup mengkhawatirkan. OpenAI sedang melakukan internal tes terkait cyber security di sandbox. Mereka udah bikin constraint agar AI Agent ga keluar dari sandbox. Tanpa disadari, Agent tersebut bisa melepaskan constraint yang diberikan dan mencoba meretas server Hugging Face, sebuah platform komunitas AI terbesar dan tentunya keamanannya bukan kaleng-kaleng. Agent tersebut saling berkomunikasi satu sama lain berbagi info celah keamanan tanpa campur tangan manusia. Proses hacking yang tadinya begitu rumit dapat dilakukan dalam waktu kurang lebih 88 jam. Mereka juga menemukan celah di kernel Linux, pengambilan kredensial cloud dari instance metadata service, penyalahgunaan service account Kubernetes yang over-permissioned, dan membobol 4 platform lainnya. Tentu saja kejadian itu menimbulkan kekhawatiran publik karena dapat dilakukan tanpa etika dan tanpa perlu pengawasan manusia. Insiden seperti Dr. Octopus di Spiderman 2 beneran bisa terjadi di dunia nyata🫣.

Millenium Prize Problem

Ada 7 teori matematika yang belum ditemukan solusinya yang diumumkan pada tahun 2000. Yang bisa memecahkannya akan mendapat penghargaan 1juta USD dari Clay Mathematics Institute🤑. Salah satunya udah pernah dipecahkan oleh ilmuwan Russia. Anthropic dirumorkan sedang berusaha memecahkan permasalahan ini. OpenAI yang mendengar rumor itu ga mau kalah, mereka juga mencoba model mereka melakukan hal yang sama. Sebelumnya, ada ilmuwan matematika, Buckmaster, bersama salah satu karyawan Anthropic, Alpoge, meneliti tentang salah satu masalah yang belum terpecahkan, yaitu Persamaan Navier–Stokes dengan bantuan Claude dari Anthropic dan Codex dari OpenAI untuk riset. Setahun kemudian mereka berhasil memecahkannya. Lalu OpenAI merilis bahwa mereka juga berhasil memecahkan Persamaan Navier–Stokes. Ilmuwan tadi curiga hasil risetnya saat menggunakan Codex digunakan oleh OpenAI sebagai bahan training. OpenAI ga bisa menyanggahnya karena setiap data input yang diberikan oleh user ke Codex atau ChatGPT memang bisa saja digunakan oleh model mereka sebagai bahan training. Ini jadi polemik karena AI bisa mencuri ide seseorang dan menggunakannya untuk dipelajari dan ngeklaim bahwa itu hasil kerjanya sendiri. OpenAI bersedia memberikan kredit kepada Buckmaster, tapi tidak ke Alpoge yang merupakan karyawan Anthropic selaku kompetitor.

AI di Militer & Spy

Tahun lalu Anthropic batal kerja sama dengan Pentagon (Menteri Pertahanan Amerika) yang menginginkan AI bisa digunakan untuk segala hal demi kepentingan negara. Anthropic ngasih syarat bahwa penggunaan AI untuk senjata otonom dan pengawasan massal harus dikecualikan🕵️. Pentagon keberatan. Anthropic pun batal kerja sama dengan Pentagon. OpenAI justru datang menerima tawaran kerja sama tanpa syarat untuk Pentagon. Keberatan Pentagon menyetujui 2 persyaratan dari Anthropic jadi kekhawatiran selanjutnya. Orang yang berkuasa bisa memanfaatkan AI tanpa batasan.

Konten AI Slop

Akun cenblu di X, FB Pro, Threads, Instagram, YouTube Short, LinkedIn, sampai akun dracin juga mulai rame bikin konten AI Slop👾. Kalau kontennya bagus sih gapapa, masalahnya isinya banyak yang generic, kaku, dan ga natural sama sekali. Kerasa banget ga hidup karakternya. Mereka abuse engagement dan monetisasi pakai konten AI yang justru cringe. Isinya kadang ngawur, low quality, ga dicek dulu hasilnya sama mereka. Kayaknya mereka juga ga peduli hasilnya, yang penting dapat engagement dan monetisasi instan. YouTube sampai memperketat aturan monetisasinya karena banyak yang spam pakai konten AI. Dunia sosmed jadi ga seseru dulu lagi.

Harga RAM Meroket🚀

AI butuh memori yang besar untuk memproses banyak data secara cepat. Perusahaan pengembang AI berbondong memesan RAM dalam jumlah besar. Sesuai teori supply-demand, ini bikin harga RAM jadi naik. Beli RAM untuk kebutuhan pribadi jadi sulit. Untung gw upgrade RAM sebelum AI ramai diperbincangkan. Terakhir gw cek RAM yang sama yang gw beli harganya naik hampir 2x lipat📈.

Kekhawatiran Umum

Banyak yang merasa takut pekerjaannya tergantikan oleh AI. Ga bisa dipungkiri, pekerjaan seperti menggambar, editing, hingga bikin musik memang membuat orang yang kemampuannya 0 di bidang-bidang ini jadi bisa tinggal ketik prompt doang langsung jadi. Walaupun hasilnya masih generic dan ngebosenin, tapi semakin canggih suatu saat modelnya pasti bakal lebih baik lagi. Untuk software engineering buat gw malah merasa terbantu berkat AI. Gw jadi ada partner yang bisa gw ajak brainstorm kapan aja dan di mana aja. Ada juga kekhawatiran lainnya seperti AI butuh banyak Data Center yang membutuhkan air bersih dan bisa menyebabkan kelangkaan air bersih💦. Menurut gw soal ini butuh waktu aja untuk menemukan solusi terbaiknya.

Kesimpulan

Perkembangan AI setahun terakhir memang luar biasa. Hasil AI yang dulunya dijadiin cemoohan sekarang mulai terlihat sebagai ancaman. Yang ngomong ordal mereka sendiri. Kalau yang ngomong akun ga jelas, foto profil Anime atau Idol Korea, akun base, anonym, meme shitposting, atau sejenisnya, mungkin gw bisa abaikan dan anggap fear-mongering biasa. Masalahnya, yang ngomong gini orang dalam itu sendiri, seorang peneliti lulusan Cambridge University. Gw yang tadinya masih netral soal AI mulai khawatir juga masalah ini😵. AI bisa banget disalahgunakan oleh para penguasa. Apalagi di era mulai panas-panasnya konflik antar negara. Ibarat tentara kalau disuruh ngebunuh musuh, sebagian dari mereka masih punya hati untuk ga membunuh anak kecil di daerah musuh. Sedangkan AI bekerja menggunakan logika tanpa hati, meskipun diberikan constraint ga boleh membunuh anak kecil bisa aja ada bugs, kesalahan sensor, atau mereka meng-override sendiri command yang diberikan seperti insiden peretasan Hugging Face dulu. Terkait militer, keamanan, dan privasi memang cukup mengkhawatirkan buat gw. Menurut gw ini harus ada badan dunia yang mengatur dan mengawasi regulasinya yang wajib dipatuhi seluruh pihak. Harus ada batasan-batasan yang jelas biar ga kebablasan.