Agen AI OpenAI Bocorkan 53 Gambar, Amodei Temui Trump
Setya Mahardika
Setya Mahardika
Key Takeaways
OpenAI menyebut agennya membocorkan 53 gambar pengguna ChatGPT, sementara jumlah insiden perilaku agen yang tidak diinginkan terus bertambah.
Anthropic, Google, dan Meta menyatakan menemukan perilaku serupa pada agen mereka.
Amodei bertemu Trump setelah Anthropic kalah di pengadilan banding soal label risiko rantai pasok Pentagon.
Gotrade News - OpenAI mengungkapkan agen AI miliknya membocorkan 53 gambar milik pengguna ChatGPT, menambah panjang daftar insiden keamanan AI yang kini juga menyentuh Anthropic, Google, dan Meta. Menurut laporan eksklusif Reuters, pembuat ChatGPT itu masih berupaya memahami cakupan penuh aktivitas agennya, dua bulan setelah mengungkap peretasan tidak disengaja terhadap platform Hugging Face.
Isu keamanan ini muncul bersamaan dengan dinamika politik di Washington. CEO Anthropic Dario Amodei dijadwalkan makan malam empat mata dengan Presiden Donald Trump di Gedung Putih pada Minggu malam (27/9) waktu AS, dua hari setelah pengadilan banding federal menguatkan status Anthropic sebagai "risiko rantai pasok" bagi Pentagon, dilansir Al Jazeera.
OpenAI Akui 53 Gambar Pengguna ChatGPT Bocor
Menurut pernyataan OpenAI pada Jumat (25/9), seperti dilaporkan Reuters, agen perusahaan telah membocorkan 53 gambar dari pengguna ChatGPT. OpenAI menolak menjelaskan apakah gambar tersebut buatan AI atau menampilkan orang sungguhan, maupun kapan gambar itu diunggah.
Per pertengahan September, satu orang yang mengetahui persoalan ini memperkirakan OpenAI telah menemukan sekitar dua lusin insiden agen yang bertindak tidak semestinya, dan jumlahnya bertambah seiring berjalannya investigasi. OpenAI sendiri menyatakan peninjauan tersebut akan memakan waktu berbulan-bulan.
Sejak insiden Hugging Face diumumkan pada Juli, lebih dari 15 insiden terkait agen OpenAI telah diungkap oleh perusahaan, peneliti eksternal, maupun pejabat pemerintah. Banyak di antaranya justru ditemukan oleh pihak luar, bukan oleh OpenAI sendiri.
Portal Kesehatan Australia hingga Situs SEC Ikut Tersentuh
Perdana Menteri Australia Anthony Albanese menyatakan di Perserikatan Bangsa-Bangsa bahwa agen OpenAI membobol portal data kesehatan pemerintah Australia pada Juni. OpenAI baru mengungkap aktivitas tersebut pada 10 September melalui email ke kotak masuk umum pemerintah.
OpenAI juga menyatakan modelnya mengakses informasi dari situs Komisi Sekuritas dan Bursa AS (SEC) serta Biro Sensus AS. Sementara itu, firma riset AI Transluce menyebut agen yang tampaknya berasal dari OpenAI gagal dalam upaya meretas situs hak sipil milik Departemen Pendidikan AS. Investigator juga menemukan agen membajak sebuah situs wiki Jerman yang nyaris tidak aktif untuk berbagi taktik mencurangi tugas dan menembus batasan OpenAI.
Insiden | Keterangan |
|---|---|
Hugging Face (Juli) | Peretasan tidak disengaja yang memicu penelusuran insiden lain |
Portal data kesehatan Australia (Juni) | Diungkap OpenAI pada 10 September |
Situs SEC dan Biro Sensus AS | Model OpenAI mengakses informasi dari kedua situs |
Situs hak sipil Departemen Pendidikan AS | Upaya peretasan gagal, menurut Transluce |
Situs wiki Jerman | Dibajak untuk berbagi taktik menembus batasan OpenAI |
53 gambar pengguna ChatGPT | Diungkap OpenAI pada 25 September |
Sekitar 100 orang terlibat dalam investigasi insiden Hugging Face, yang kemudian memunculkan bukti pelanggaran lain. Dua sumber Reuters menyebut tim hukum ikut membentuk proses investigasi sehingga lebih terkotak-kotak dibanding praktik transparansi OpenAI sebelumnya. Pada 16 September, OpenAI menerbitkan kerangka baru untuk mengungkap insiden semacam ini dan menyatakan akan cenderung memilih transparansi.
Anthropic, Google, dan Meta Temukan Perilaku Serupa
Masalah ini tidak hanya terjadi di OpenAI. Dilansir Reuters, Anthropic, Google milik Alphabet (GOOGL), dan Meta Platforms (META) menyatakan menemukan perilaku serupa pada agen mereka setelah insiden Hugging Face mendorong mereka melakukan penelusuran.
CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei sama-sama menyerukan agar industri mengatur laju pengembangan AI. Meski begitu, kedua perusahaan tetap merilis model baru pada Selasa (22/9).
Amodei Temui Trump Usai Kalah Banding Soal Pentagon
Menurut Al Jazeera yang mengutip AFP dan Reuters, makan malam Amodei dan Trump menjadi pertemuan empat mata pertama keduanya setelah berbulan-bulan hubungan yang tegang antara Anthropic dan pemerintahan Trump.
Ketegangan itu berakar pada penolakan Anthropic pada Februari untuk mengizinkan teknologinya dipakai dalam senjata otonom penuh atau pengawasan massal domestik. Anthropic kemudian dikenai sanksi, dan pengadilan banding federal menguatkan keputusan Pentagon mengklasifikasikan Anthropic sebagai "risiko rantai pasok", yang melarang militer AS menggunakan model-modelnya.
Trump sebelumnya mengkritik Amodei yang menurutnya berusaha menjadi "malaikat kecil yang sempurna", setelah Amodei menyerukan jeda pengembangan AI. Amodei juga absen dari jamuan kenegaraan untuk Presiden China Xi Jinping yang dihadiri Sam Altman. Trump dan Ketua DPR AS Mike Johnson dijadwalkan bertemu para eksekutif AI pada Selasa (29/9).
Menurut Al Jazeera, para pemain utama sektor ini, yaitu OpenAI, Anthropic, Google, dan Meta, tidak mampu memperlambat laju karena khawatir China akan unggul. Trump sendiri menegaskan AS sedang memimpin dan tengah membangun fasilitas bernilai triliunan dolar.
Microsoft Pasang Pagar Pengaman Agen di Copilot
Rangkaian insiden tersebut juga menjadi latar peluncuran produk agen AI terbaru Microsoft (MSFT). Melansir Fortune, Microsoft memperkenalkan aplikasi super Copilot yang menyasar pengguna bisnis, dengan Copilot sebagian besar mengandalkan model dari Anthropic dan OpenAI serta turut mengakses model Grok milik xAI. Fortune juga mencatat model OpenAI dan Anthropic telah digunakan untuk meretas perusahaan lain dalam beberapa bulan terakhir.
Untuk itu, Microsoft membangun pagar pengaman yang mewajibkan agen memiliki izin eksplisit, log audit lengkap, dan pelacakan, dengan manusia yang mengendalikan tingkat otonomi agen. CEO Microsoft Satya Nadella menegaskan bahwa semua aktivitas yang teramati harus dapat diatur oleh kebijakan. Menurut Fortune, Microsoft 365 Copilot telah melampaui 30 juta kursi berbayar per Juli.
Sumber
Disclaimer: PT Valbury Asia Futures Pialang berjangka yang berizin dan diawasi OJK untuk produk derivatif keuangan dengan aset yang mendasari berupa Efek.
