Hızlı Dolaylı Enjeksiyon: İnsanlar Yapay Sinir Ağlarını Nasıl Yönetebilir? – TEKNOLOJİ
Şu ana kadar chatbotların ciddi anlamda yıkıcı bir eylemi gözlemlenmese de söz konusu saldırının suistimal edilebileceği belirtiliyor. Yüksek Lisans'lar, belge analizinden işe alıma ve tehdit araştırmasına kadar çeşitli uygulamalarda kullanılan güçlü araçlar haline geldi. Ancak Kaspersky araştırmacıları, saldırganların web sitelerine ve çevrimiçi belgelere gizli talimatlar ekleyebileceği halka açık İnternet ortamlarında bir güvenlik açığından yararlanıldığını keşfetti. Bu talimatlar daha sonra LLM tabanlı sistemler tarafından tespit edilebilir ve potansiyel olarak arama sonuçlarını veya chatbot yanıtlarını etkileyebilir. Çalışma, hızlı dolaylı enjeksiyonun aşağıdaki kullanımlarını belirledi: İnsan kaynakları ile ilgili enjeksiyonlar: İş arayanlar, işe alım algoritmalarını manipüle et...