Kod güvenliği ve zafiyet tespiti için hibrit derin öğrenme yaklaşımı
Küçük Resim Yok
Tarih
2026
Yazarlar
Dergi Başlığı
Dergi ISSN
Cilt Başlığı
Yayıncı
Düzce Üniversitesi
Erişim Hakkı
info:eu-repo/semantics/openAccess
Özet
Yazılım güvenliği, teknolojik gelişmeler ve hassas verilerin yazılım sistemlerinde toplanmasıyla kritik bir alan haline gelmiştir. Son bulgular, araştırmacıları daha güçlü hibrit yaklaşımlar geliştirmeye yöneltmiştir. Ancak yazılımlar, satır bazlı olmalarına rağmen karmaşık yapısal ve anlamsal ilişkiler içermektedir. Bu tezde, kaynak kodların hem semantik hem de yapısal özelliklerini birlikte öğrenebilen hibrit bir derin öğrenme mimarisi olan VulGraphBERT önerilmektedir. Model, CodeBERT tabanlı dilsel temsil, Graphormer tabanlı yapısal temsil ve bu iki bileşeni birleştiren hibrit bir sınıflandırma katmanından oluşmaktadır. CodeBERT semantik içeriği işlerken, Graphormer grafiksel bağıntıları modellemektedir. Devign ve ReVeal veri kümeleri üzerinde yürütülen deneyler, VulGraphBERT'in önceki yöntemlere kıyasla daha yüksek F1 skoru elde ettiğini ortaya koymuştur. Devign veri kümesinde %65 doğruluk ve %67 F1, ReVeal veri kümesinde ise %86 doğruluk ve %54 F1 skoru raporlanmıştır. Grafik tabanlı hibrit modeller başarılı sonuçlar verse de, Büyük Dil Modelleri (LLM) ile entegrasyon güçlükleri, grafik yapılarla uyumsuzluk ve kara kutu doğaları önemli sınırlamalardır. Bu eksiklikleri aşmak amacıyla, çalışmanın devamında VuldGemma isimli bir yaklaşım geliştirilmiştir. Gemma 3 1B modeli kullanılarak grafik verisi metin halinde aktarılmış, kod ve grafik ilişkileri çapraz dikkat mekanizmasıyla bütünleşik biçimde öğrenilmiştir. Devign veri kümesinde yürütülen analizlerde, ısı haritaları kullanılarak modelin kararları gözlemlenmiştir. Sonuç olarak, VulGraphBERT otomatik zafiyet tespitinde yüksek doğruluk ve F1 skorları ile etkili bir çözüm sunmaktadır. VuldGemma LLM tabanlı yaklaşım ise açıklanabilirliğin kritik olduğu güvenlik denetimi senaryolarında tamamlayıcı bir rol üstlenebilecek potansiyele sahiptir.
Software security has become a critical area due to technological advancements and the accumulation of sensitive data in software systems. Recent findings have led researchers to develop more robust hybrid approaches. However, despite being line-based, software contains complex structural and semantic relationships. This thesis proposes a hybrid deep learning architecture named VulGraphBERT, which can jointly learn both semantic and structural features of source code. The model consists of a CodeBERT-based linguistic representation, a Graphormer-based structural representation, and a hybrid classification layer that integrates both components. While CodeBERT processes semantic content, Graphormer models the graphical dependencies. Experiments conducted on the Devign and ReVeal datasets reveal that VulGraphBERT achieves a higher F1 score compared to previous methods. An accuracy of 65% and an F1 score of 67% were reported on the Devign dataset, while the ReVeal dataset yielded 86% accuracy and 54% F1 score. Although graph-based hybrid models yield promising results, they present significant limitations such as integration difficulties with Large Language Models (LLMs), incompatibility with graph structures, and their inherent black-box nature. To overcome these limitations, an experimental approach named VuldGemma has been developed in the continuation of this study. Using the Gemma 3 1B model, graph data was transformed into textual form, enabling the integrated learning of code and graph relationships via a cross-attention mechanism. In the analyses conducted on the Devign dataset, the model's decisions were observed using heatmaps. As a result, VulGraphBERT provides an effective solution for automatic vulnerability detection with high accuracy and F1 scores. The experimental LLM-based approach has the potential to serve a complementary role in security auditing scenarios where explainability is critical.
Software security has become a critical area due to technological advancements and the accumulation of sensitive data in software systems. Recent findings have led researchers to develop more robust hybrid approaches. However, despite being line-based, software contains complex structural and semantic relationships. This thesis proposes a hybrid deep learning architecture named VulGraphBERT, which can jointly learn both semantic and structural features of source code. The model consists of a CodeBERT-based linguistic representation, a Graphormer-based structural representation, and a hybrid classification layer that integrates both components. While CodeBERT processes semantic content, Graphormer models the graphical dependencies. Experiments conducted on the Devign and ReVeal datasets reveal that VulGraphBERT achieves a higher F1 score compared to previous methods. An accuracy of 65% and an F1 score of 67% were reported on the Devign dataset, while the ReVeal dataset yielded 86% accuracy and 54% F1 score. Although graph-based hybrid models yield promising results, they present significant limitations such as integration difficulties with Large Language Models (LLMs), incompatibility with graph structures, and their inherent black-box nature. To overcome these limitations, an experimental approach named VuldGemma has been developed in the continuation of this study. Using the Gemma 3 1B model, graph data was transformed into textual form, enabling the integrated learning of code and graph relationships via a cross-attention mechanism. In the analyses conducted on the Devign dataset, the model's decisions were observed using heatmaps. As a result, VulGraphBERT provides an effective solution for automatic vulnerability detection with high accuracy and F1 scores. The experimental LLM-based approach has the potential to serve a complementary role in security auditing scenarios where explainability is critical.
Açıklama
Anahtar Kelimeler
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol
Kaynak
WoS Q Değeri
Scopus Q Değeri
Cilt
Sayı
Künye
Jafarov, A. (2026). Kod Güvenliği Ve Zafiyet Tespiti İçin Hibrit Derin Öğrenme Yaklaşımı (Tez No. 994622) [Yüksek Lisans Tezi, Düzce Üniversitesi].
