Google, üretken yapay zeka ürünleri ve hizmetlerinde güvenlik sorunları bulmanın bedelini ödeyecek - Dünyadan Güncel Teknoloji Haberleri

Google, üretken yapay zeka ürünleri ve hizmetlerinde güvenlik sorunları bulmanın bedelini ödeyecek - Dünyadan Güncel Teknoloji Haberleri
Bunun yapay zeka güvenliği ve emniyeti konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek olası sorunları gün ışığına çıkaracağına inanıyoruz” dedi Google Google geçen yıl güvenlik araştırmacılarına hata keşifleri için 12 milyon dolar verdiğini söyledi ”

FacebookheyecanLinkedIn

makalenin sonu



genel-9

“Bugün, üretken yapay zekaya özel saldırı senaryolarını ödüllendirmek için Güvenlik Açığı Ödül Programımızı (VRP) genişletiyoruz Önyargı, yanlış bilgi ve siber suçlar, büyük dil modellerinin (LLM’ler) oluşturduğu diğer çeşitli ‘tehditlerin’ arasında yer almaktadır ve kullanıcıları karmaşık yapay zeka suçlarından korumak için, Google hata ödül programının genişletildiğini duyurdu

VRP nedir?
Google’ın VRP’si, potansiyel olarak çevrimiçi kullanıcılara saldırmak için kullanılabilecek güvenlik açıklarını, hataları veya kusurları tespit etmeyi başaran, kendi kuruluşu dışındaki güvenlik araştırmacılarını ödüllendiren bir programdır

Google, “Üretken yapay zeka, haksız önyargı potansiyeli, model manipülasyonu veya verilerin yanlış yorumlanması (halüsinasyonlar) gibi geleneksel dijital güvenliğe kıyasla yeni ve farklı endişeleri gündeme getiriyor” dedi ve bu potansiyel riskleri daha iyi tahmin etmek ve test etmek için çalıştığını ekledi

Bu, şirketin bu yılın başında Beyaz Saray’da diğer önde gelen yapay zeka şirketleriyle yaptığı işbirliğiyle, yapay zeka sistemlerindeki güvenlik açıklarının keşfini ilerletme taahhüdüyle uyumlu

VRP için güncellenmiş yönergeler
Şirket ayrıca hangi keşiflerin ödüle hak kazandığını ve hangilerinin kapsam dışı olduğunu ayrıntılarıyla açıklayan güncellenmiş yönergeler yayınladı Yapay zekanın benimsenmesindeki artışla birlikte Google, VRP’nin artık yapay zekaya özgü saldırılara ve kötü niyetli fırsatlara da odaklanacağını söyledi

Örneğin, bir güvenlik araştırmacısı özel, hassas bilgileri sızdıran eğitim verilerinin çıkarılmasının kapsam dahilinde olduğunu keşfederse ancak yalnızca genel, hassas olmayan verileri gösteriyorsa ödül almaya hak kazanamaz

Google ayrıca “AI tedarik zinciri güvenliği hakkındaki bilgileri evrensel olarak keşfedilebilir ve doğrulanabilir hale getirmek için açık kaynak güvenlik çalışmalarını genişletiyor


Üretken yapay zekanın hükümetleri ve düzenleyicileri endişesi var