California, 15 Oktober 2024 – OpenAI, perusahaan di balik ChatGPT, baru-baru ini mengungkap keberadaan “meta prompt” rahasia yang digunakan untuk mengendalikan perilaku model bahasa besar mereka. Meta prompt ini, yang berbeda dengan pendekatan yang diambil oleh Anthropic, pesaing mereka, memberikan arahan tingkat tinggi tentang bagaimana model harus memproses dan menghasilkan teks.
Meskipun detail spesifik meta prompt ini tetap dirahasiakan, OpenAI menyatakan bahwa ia berfungsi sebagai seperangkat instruksi dan prinsip panduan yang memungkinkan model mereka untuk menghasilkan respons yang lebih aman, lebih bermanfaat, dan lebih selaras dengan nilai-nilai manusia.
OpenAI Ungkap “Meta Prompt” Rahasia yang Berbeda dari Pendekatan Anthropic
Berbeda dengan Anthropic yang menggunakan “konstitusi” yang terdiri dari aturan eksplisit untuk sistem AI mereka, pendekatan OpenAI lebih menekankan pada prinsip-prinsip umum dan arahan tingkat tinggi. Hal ini memungkinkan fleksibilitas dan kemampuan adaptasi yang lebih besar, memungkinkan model untuk belajar dan berkembang dari waktu ke waktu.
Pengungkapan ini datang di tengah meningkatnya pengawasan terhadap sistem AI dan potensi dampaknya terhadap masyarakat. Dengan mengungkap sebagian dari “kotak hitam” di balik model bahasa mereka, OpenAI bertujuan untuk meningkatkan transparansi dan membangun kepercayaan dengan publik.
Namun, beberapa ahli menyatakan keprihatinan tentang potensi bias dan keterbatasan yang tertanam dalam meta prompt ini. Mereka berpendapat bahwa meskipun meta prompt dapat membantu mengarahkan perilaku model, ia juga dapat secara tidak sengaja membatasi kreativitas dan kemampuan model untuk menghasilkan perspektif yang beragam.
OpenAI mengakui tantangan ini dan menekankan komitmen mereka untuk terus menyempurnakan meta prompt mereka melalui penelitian dan pengembangan yang berkelanjutan. Mereka juga berkomitmen untuk melibatkan publik dalam diskusi tentang etika AI dan memastikan bahwa teknologi ini dikembangkan dan digunakan secara bertanggung jawab.
