Mengejutkan! Ini Alasan OpenAI Jalin Kerja Sama dengan Departemen Perang AS

Ingin Mengendalikan Penggunaan, Bukan Melepaskannya

Alasan lain yang cukup mengejutkan adalah OpenAI tidak ingin teknologinya digunakan tanpa pengawasan. Dengan masuk secara resmi melalui kontrak, perusahaan dapat memastikan model AI tetap dijalankan melalui sistem cloud yang dikendalikan oleh mereka.

Artinya, tidak ada model yang diberikan tanpa guardrails. Semua sistem keamanan, moderasi, dan pemantauan tetap aktif. OpenAI juga menempatkan personel berizin keamanan untuk mengawasi implementasi tersebut.

Langkah ini disebut sebagai cara untuk tetap memegang kendali atas penggunaan AI di sektor pertahanan.

OpenAI Menetapkan Tiga Garis Merah Tegas

Meski menyepakati kerja sama dengan Departemen Perang Amerika Serikat, OpenAI menegaskan tiga batasan yang tidak boleh dilanggar dalam kerja sama ini:

1. AI tidak boleh digunakan untuk pengawasan massal domestik.

2. AI tidak boleh mengendalikan senjata otonom tanpa kontrol manusia.

3. AI tidak boleh digunakan untuk keputusan otomatis berisiko tinggi seperti sistem penilaian sosial.