JAKARTA, iNews.id - OpenAI membentuk tim dengan tujuan mencegah kiamat kecerdasan buatan (AI). Karena, organisasi tersebut mengungkapkan kekhawatirannya tentang potensi pemusnahan umat manusia karena AI pemberontak.
Sesuai OpenAI, AI memiliki kapasitas untuk berkembang menjadi superintelligence. Hal ini akan menjadi lompatan teknologi paling penting yang pernah dicapai umat manusia, sebagaimana dikutip dari Ubergizmo.
Namun, Ilya Sutskever dan Jan Leike dari OpenAI memperingatkan manusia kurang siap untuk bergulat dengan AI. Apalagi jika teknologi sudah melampaui kemampuan kognitif mereka sendiri.
Tim OpenAI mengakui bahaya yang akan datang dari AI superintelligent dan mengakui saat ini mereka tidak memiliki solusi untuk mengontrol atau mengarahkan perilakunya. Metodologi yang ada untuk menyelaraskan AI, seperti pembelajaran penguatan dari umpan balik manusia, bergantung pada pengawasan manusia.
Kendati demikian, karena sistem AI melampaui kecerdasan manusia, pengawasan ini menjadi tidak dapat diandalkan. Sutskever, salah satu pendiri dan kepala ilmuwan OpenAI, bersama Tuan Leike, kepala departemen penyelarasan OpenAI, sedang membentuk sekelompok peneliti dan insinyur yang ditugaskan demi mengatasi hambatan teknis yang ditimbulkan oleh kecerdasan super.