Otonom sürüşte yapay zeka, siber güvenlikte hangi sorunlarla karşı karşıya?

Otonom araçların, trafik kazalarının en yaygın nedenini  “insan sürücü”yü ortadan kaldırarak,  kazaları ve ölümleri azaltması bekleniyor. buna rağmen sürücüler, yolcular ve yayalar için tamamen farklı bir risk ortaya çıkabilir.

Otonom araçlar, geleneksel otomobillerde insanlar tarafından alınan kararları sistemlerine entegre etmek için makine öğrenme tekniklerini kullanıyorlar. Veri toplamak, analiz etmek ve aktarmak yapay zeka sistemleriyle mümkün oluyor.

Bu sistemler, tüm BT sistemleri gibi, aracın düzgün çalışmasını tehlikeye atabilecek saldırılara karşı savunmasızdır.

JRC ve ENISA tarafından hazırlanan rapor, yapay zekanın otonom arabalardaki siber güvenlik risklerine ışık tutuyor ve bunları azaltmak için öneriler sunuyor.

JRC Genel Direktörü Stephen Quest, “Avrupa yönetmeliklerinin, otonom sürüşün faydalarının güvenlik riskleriyle dengelenmemesi önemlidir. AB düzeyinde karar vermeyi desteklemek için raporumuz, otonom sürüş için kullanılan AI tekniklerinin yanı sıra bunlara bağlı siber güvenlik risklerinin anlaşılmasını artırmayı hedefliyor, böylece otonom sürüşte AI güvenliğini sağlamak için önlemler alınabilir ” dedi.

“Güvensiz otonom bir araç, bir AB üye devletinin sınırını geçtiğinde, güvenlik açıkları da ınunla birlikte geçer”. AB Siber Güvenlik İcra Yöneticisi Juhan Lepassaar, “Güvenlik akla sonradan gelmemeli, bunun yerine araçların Avrupa’nın yollarına güvenilir bir şekilde yerleştirilmesi için bir ön koşul olmalıdır ”dedi.

Otonom arabalarda yapay zeka güvenlik açıkları

Otonom bir aracın yapay zeka sistemleri, trafik işaretlerini ve yol işaretlerini tanımak, araçları tespit etmek, hızlarını tahmin etmek ve ilerideki yolu planlamak için durmaksızın çalışıyor.

Ani arızalar gibi kasıtsız tehditlerin yanı sıra, bu sistemler, AI sistemine müdahale etmek ve güvenlik açısından kritik işlevleri bozmak için özel bir amaca sahip olan kasıtlı saldırılara karşı savunmasızdır.

Navigasyonu yanlış yönlendirmek için yola boya eklemek veya tanınmasını önlemek için bir dur işaretine yapıştırma eklemek bu tür saldırılara örnektir.

Bu değişiklikler, AI sisteminin nesneleri yanlış sınıflandırmasına ve ardından otonom aracın tehlikeli olabilecek şekilde davranmasına neden olabilir.

Otonom araçlarda daha güvenli AI için öneriler

Otonom araçlarda yapay zeka güvenliğini iyileştirmek için rapor, birkaç öneri sunuyor; bunlardan biri, yapay zeka bileşenlerinin güvenlik değerlendirmelerinin yaşam döngüleri boyunca düzenli olarak gerçekleştirilmesidir.

Yapay zeka modellerinin ve verilerinin bu sistematik doğrulaması, aracın beklenmedik durumlar veya kötü niyetli saldırılarla karşılaşıldığında her zaman doğru şekilde davranmasını sağlamak için çok önemlidir.

Diğer bir öneri ise, tehdit istihbaratı tarafından desteklenen sürekli risk değerlendirme süreçlerinin, otonom sürüşte yapay zeka alımına ilişkin potansiyel yapay zeka risklerinin ve ortaya çıkan tehditlerin tanımlanmasını sağlayabileceğidir.

Uygun AI güvenlik politikaları ve bir AI güvenlik kültürü, tüm otomotiv tedarik zincirini yönetmelidir.

Otomotiv endüstrisi, siber güvenliğin başlangıçtan itibaren dijital tasarımın merkezi bir unsuru haline geldiği yapay zeka işlevlerinin geliştirilmesi ve dağıtımında tasarım yoluyla bir güvenlik yaklaşımını benimsemelidir.

Son olarak, raporda otomotiv sektörünün hazırlık düzeyini artırması ve yapay zeka ile bağlantılı ortaya çıkan siber güvenlik sorunlarını ele almak için olay müdahale yeteneklerini güçlendirmesi önerilmiştir.