ChatGPT kötü amaçlı kod üretmek için kullanılabiliyor
Check Point'teki araştırmacılar ChatGPT ve Codex'i kullanarak standart İngilizce talimatları kullanarak oltalama saldırıları başlatmak için kullanılabilecek kodlar oluşturdu
Siber güvenlik firması Check Point tarafından Salı günü yayınlanan bir araştırma notuna göre, OpenAI'nin büyük dil modeli (LLM) tabanlı yapay zeka (AI) metin oluşturucusu ChatGPT, kötü niyetli görevler için kod oluşturmak için görünüşte kullanılabilir. Check Point'teki araştırmacılar, ChatGPT ve diğer bir OpenAI doğal dilden kod oluşturucu olan Codex'i kullanarak, spear phishing saldırıları başlatmak için kullanılabilecek kod oluşturmak için standart İngilizce talimatları kullandılar.
Bu tür yapay zeka kod üreticileriyle ilgili en büyük sorun, doğal dil işleme (NLP) araçlarının kötü niyetli bilgisayar korsanları için giriş engelini azaltabileceği gerçeğinde yatmaktadır. Kod oluşturucuların kullanıcıların kodlama konusunda bilgili olmalarını gerektirmemesi sayesinde, herhangi bir kullanıcı açık web'den kötü amaçlı bir araçta kullanılan mantıksal bilgi akışını harmanlayabilir ve kötü amaçlı araçlar için sözdizimi oluşturmak üzere aynı mantığı kullanabilir.
Check Point, yapay zeka kod üreticisinin bir kimlik avı e-posta dolandırıcılığı için temel bir kod şablonu oluşturmak için nasıl kullanıldığını ve kodu geliştirmeye devam etmek için sade bir İngilizce ile sonraki talimatları nasıl uyguladığını gösterdi. Saldırganların gösterdiği üzere, kötü niyetli herhangi bir kullanıcı bu araçları kullanarak bütün bir hack kampanyası oluşturabilir.
Check Point tehdit istihbarat grubu yöneticisi Sergey Shykevich, ChatGPT gibi araçların "siber tehdit ortamını önemli ölçüde değiştirme potansiyeline" sahip olduğunu söyledi.
"Bilgisayar korsanları ChatGPT ve Codex ile kötü niyetli kodları da yineleyebilirler. Yapay zeka teknolojileri, giderek daha sofistike ve etkili hale gelen siber yeteneklerin tehlikeli evriminde bir başka ileri adımı temsil ediyor" diye ekledi.
Açık kaynak dil modelleri siber savunma araçları oluşturmak için de kullanılabilirken, kötü niyetli araçlar üretmek için kullanılması açısından koruma eksikliği potansiyel olarak endişe verici olabilir. Check Point, ChatGPT'nin platformunun bilgisayar korsanlığı araçları oluşturmak için kullanılmasının politikasına "aykırı" olduğunu belirtmesine rağmen, bunu yapmasını engelleyen herhangi bir kısıtlama olmadığını belirtti.
Translated with www.DeepL.com/Translator (free version)