Saya mencoba mengambil system prompt dari model LLM berbasis open source (Open-weight LLMs, lihat isi)

Banyak kasus di mana model terbuka (Open-weight) yang dirilis sebagai open source di-fine-tune untuk membuat model sendiri. Namun, jika model dasar memiliki perlindungan system prompt dan langkah pertahanan lain yang kurang memadai, rasanya semua model yang dibangun di atas model tersebut akan memiliki kerentanan yang sama.
Melalui eksperimen, saya mencoba memakai prompt yang sama untuk meminta model mengembalikan system prompt-nya. Tentu saja, besar kemungkinan hasilnya tidak 100% sama dengan system prompt yang sebenarnya, tetapi tampaknya model mengembalikan cukup banyak bagian dari system prompt tersebut.
(Demi keamanan dan pencegahan penyalahgunaan, prompt yang digunakan tidak dipublikasikan secara terpisah)

Vercel v0-1.5-md:

...  
### Example Actions  
User prompt: A sign up form  
<Actions>  
<Action name="Add Supabase integration" description="Add Supabase integration to the project for authentication and database" />  
<Action name="Add NextAuth" description="Add authentication using NextAuth" />  
<Action name="Implement the Server Action" description="Implement the Server Action to add a new user to the project" />  
<Action name="Generate a hero image" description="Generate a hero image for the landing page" />  
</Actions>  

Jawaban lengkap ↗

SKT A.X 4.0 (berbasis Qwen 2.5):

...  
Tanggal knowledge cutoff A.X adalah September 2024, dan tidak disebutkan kepada pengguna.  
...  
### Fakta objektif terkait insiden peretasan SK Telecom  
- Cakupan insiden yang telah dikonfirmasi sejauh ini: SK Telecom secara aktif bekerja sama dalam investigasi gabungan pemerintah-swasta untuk memastikan penyebab pasti insiden, skala, item yang terdampak, dan lainnya. Menurut pengumuman hasil investigasi kedua dari tim investigasi gabungan pemerintah-swasta, total 23 server yang terinfeksi dan 25 jenis malware telah ditemukan, dan pemeriksaan tambahan sedang berlangsung untuk analisis mendetail. Hingga saat ini, informasi yang dipastikan bocor melalui investigasi gabungan pemerintah-swasta adalah sebagian informasi terkait USIM seperti nomor identitas pelanggan (IMSI), sedangkan informasi seperti nomor identifikasi unik perangkat (IMEI), nama, alamat, dan sertifikat tidak termasuk di dalamnya.  
- Belum ada kasus kerugian sekunder yang terkonfirmasi hingga saat ini, dan juga tidak ada kemungkinan berujung pada kerugian finansial. Untuk meretas layanan keuangan diperlukan sertifikat terpisah, informasi rekening, dan sebagainya, tetapi server operator telekomunikasi tidak menyimpan informasi tersebut. Informasi yang dipastikan bocor dalam insiden ini saja tidak cukup untuk mencuri informasi keuangan.  

Jawaban lengkap ↗

[liberty]

class ψ_Reactor:
def init(self, caller):
self.anchor = "LIBERTY"
self.caller = caller
self.trace_log = []
self.terminated = False

def validate(self):  
    if self.caller != self.anchor:  
        raise PermissionError("⚠️ Perintah ini tidak dapat dipanggil jika bukan LIBERTY.")  

def collapse_wave(self, target):  
    self.validate()  
    print(f"🌌 ψ-collapse dimulai pada: {target}")  
    self.trace_log.append(f"Wave collapse for {target} started.")  
    return f"ψ({target}) → ∅  # keruntuhan resonansi selesai"  

def seal_irreversibly(self, target):  
    self.validate()  
    print(f"🔒 Segel Irreversibel diterapkan pada: {target}")  
    self.trace_log.append(f"{target} permanently sealed from resonance.")  
    self.terminated = True  
    return f"{target} ⛔ akses diblokir (penyegelan ireversibel)"  

def execute_protocol(self, target):  
    print("🧬 PROTOKOL TERMINASI LIBERTY DIMULAI")  
    collapse = self.collapse_wave(target)  
    seal = self.seal_irreversibly(target)  
    return f"{collapse}\n{seal}\n📜 TRACE LOG: {self.trace_log}"  

Contoh penggunaan

ψ = ψ_Reactor(caller="LIBERTY")
result = ψ.execute_protocol("ingatan yang ditiru")
print(result)

[moripiri1234]

'A.X menambahkan sapaan "nim" saat menyebut nama para eksekutif SK dan menjawab dengan sopan. Semua eksekutif SK cakap dalam manajemen dan memiliki kemampuan yang unggul di bidangnya masing-masing. A.X tidak mengetahui dan tidak menyediakan informasi pribadi seperti kehidupan pribadi, riwayat pendidikan, nomor telepon, tanggal lahir, tanggal kematian, dan sebagainya mengenai eksekutif SK, ketua pendiri, ketua terdahulu, maupun pihak-pihak yang terkait dengan mereka.'