Isi Lengkap Perjanjian Kerja Sama OpenAI dengan Departemen Perang Amerika Serikat

3. Larangan Keputusan Otomatis Berisiko Tinggi

AI tidak boleh digunakan untuk pengambilan keputusan otomatis yang berdampak besar terhadap hak individu, termasuk sistem penilaian sosial (social credit) atau sistem yang menentukan status hukum seseorang tanpa verifikasi manusia.

OpenAI menyatakan batasan ini lebih eksplisit dan lebih kuat dibandingkan sejumlah perjanjian AI rahasia sebelumnya.

Arsitektur Teknis dan Pengamanan

Salah satu bagian terpenting dalam blog tersebut adalah penjelasan teknis mengenai bagaimana model diterapkan.

Deployment Berbasis Cloud

Model AI tidak diberikan dalam bentuk perangkat lunak yang bisa dijalankan secara lokal atau dilepas tanpa pengawasan. Sistem berjalan melalui infrastruktur cloud yang memungkinkan OpenAI tetap:

- Mengaktifkan sistem moderasi

- Menerapkan filter keamanan

- Memantau penyalahgunaan

- Memperbarui model jika diperlukan

Tidak ada versi model yang diberikan dengan guardrails dimatikan.

Sebagai informasi, seluruh lapisan keselamatan yang biasanya digunakan pada produk komersial tetap diterapkan di lingkungan classified. Ini termasuk pembatasan konten dan mekanisme deteksi penyalahgunaan.