Teknoloji
Moderator
2025 mali yılında yapay zeka odaklı veri merkezleri için 80 milyar dolar ayıran Microsoft, şirket içinde yapay zeka altyapısını ve yazılım geliştirmeyi hızlandırmaya odaklanan yeni bir mühendislik organizasyonu kuruyor. Bloomberg'ün paylaştığı bilgilere göre, bu yeni bölümü Jay Parikh yönetecek. Doğrudan Microsoft CEO'su Satya Nadella'ya rapor verecek olan Parikh, şirketin yapay zeka platformu ve geliştirici ekipleri de dahil olmak üzere farklı grupları denetleyecek.
Bu arada daha önce Meta'da Başkan Yardımcısı ve küresel mühendislik başkanı olan Parikh'in Meta'da teknik altyapı ve veri merkezi projeleri üzerinde çalıştığını belirtelim. Ayrıca Jay Parikh, Ekim ayında Microsoft'a katılmadan önce, bulut güvenliği girişimi Lacework'ün CEO'su olarak atanmıştı.
The Verge'ün paylaştığı bilgilere göre, bu yeni organizasyon "CoreAI - Platform ve Araçlar" olarak adlandırılıyor. Söz konusu kuruluş, Microsoft'un mevcut Dev Div ve AI platform ekiplerinin yanı sıra CTO ofisi bölümündeki bazı çalışanların birleşiminden oluşuyor. CoreAI, yapay zekanın birinci öncelik olarak kalmasını sağlamak için Microsoft'un geliştirici ekiplerini etkin bir şekilde yeniden düzenliyor.
Microsoft'un blogunda paylaşılan bilgiler; bizlere şirketin istikametini de göstermekkte. Nadella'nın belirttiğine göre; Microsoft'un önümüzdeki yıl için odak noktası “tüm uygulama kategorilerini yeniden şekillendiren” “model-ileri” uygulamalar olacak.
Microsoft, yapay zekayı merkeze alan yeni bir yapılanmaya giderken, şirketin kırmızı ekibi (red team) de yapay zeka odağındaki çalışmalarına hız kesmeden devam ediyor. Ekip, “100 Üretken Yapay Zeka Ürününün Kırmızı Ekibinden Dersler” başlıklı yeni bir teknik rapor ortaya koydu.
Rapor üretken yapay zekanın, mevcut güvenlik risklerini artırdığını ortaya koyuyor. Bu anlamda ekibin risk azaltmaya yönelik çok yönlü bir yaklaşım gerektiren yeni güvenlik açıkları ortaya çıkardığını söyleyebiliriz. Rapor kapsamında üretken yapay zeka modellerinin mevcut güvenlik açıklarını artırırken yeni siber saldırı vektörleri ortaya çıkardığından bahsediliyor.
Rapora göre; üretken yapay zeka içinde, eski yazılım bileşenleri veya uygunsuz hata işleme gibi geleneksel güvenlik risklerinin kritik endişeler olmaya devam ediyor. Ancak ek olarak, hızlı enjeksiyonlar gibi model düzeyinde zayıflıklar da yapay zeka sistemlerinde benzersiz zorluklar yaratıyor.
Ayrıca raporda belirtildiği üzere; otomasyon araçları istemler oluşturmak, siber saldırıları düzenlemek ve yanıtları puanlamak için yararlı olsa da, kırmızı ekip oluşturmak tamamen otomatikleştirilemeyecek. Rapor, yapay zeka kırmızı ekip oluşturmanın büyük ölçüde insan uzmanlığına dayandığına dikkat çekiyor. Bunun nedeni, nefret söylemi veya müstehcen içerik gibi genel riskleri belirleyebilen dil modellerinin alana özgü nüanslı sorunları değerlendirmekte zorlanması. Burada konunun uzmanları devreye girerek tıp, siber güvenlik ve otomasyonun genellikle yetersiz kaldığı kimyasal, biyolojik, radyolojik ve nükleer bağlamlar gibi özel alanlardaki içeriği değerlendirebiliyor.
Son olarak rapor, üretken yapay zekadaki riskleri azaltmak için sürekli testlerin, sağlam savunmaların ve uyarlanabilir stratejilerin birleştiği katmanlı bir yaklaşıma ihtiyaç olduğunu belirtiyor.
Bu arada daha önce Meta'da Başkan Yardımcısı ve küresel mühendislik başkanı olan Parikh'in Meta'da teknik altyapı ve veri merkezi projeleri üzerinde çalıştığını belirtelim. Ayrıca Jay Parikh, Ekim ayında Microsoft'a katılmadan önce, bulut güvenliği girişimi Lacework'ün CEO'su olarak atanmıştı.
CoreAI'ın detayları
The Verge'ün paylaştığı bilgilere göre, bu yeni organizasyon "CoreAI - Platform ve Araçlar" olarak adlandırılıyor. Söz konusu kuruluş, Microsoft'un mevcut Dev Div ve AI platform ekiplerinin yanı sıra CTO ofisi bölümündeki bazı çalışanların birleşiminden oluşuyor. CoreAI, yapay zekanın birinci öncelik olarak kalmasını sağlamak için Microsoft'un geliştirici ekiplerini etkin bir şekilde yeniden düzenliyor.
Microsoft'un blogunda paylaşılan bilgiler; bizlere şirketin istikametini de göstermekkte. Nadella'nın belirttiğine göre; Microsoft'un önümüzdeki yıl için odak noktası “tüm uygulama kategorilerini yeniden şekillendiren” “model-ileri” uygulamalar olacak.
Microsoft'un kırmızı ekibinden yapay zeka odağında güvenlik çıkarımları
Microsoft, yapay zekayı merkeze alan yeni bir yapılanmaya giderken, şirketin kırmızı ekibi (red team) de yapay zeka odağındaki çalışmalarına hız kesmeden devam ediyor. Ekip, “100 Üretken Yapay Zeka Ürününün Kırmızı Ekibinden Dersler” başlıklı yeni bir teknik rapor ortaya koydu.
Rapor üretken yapay zekanın, mevcut güvenlik risklerini artırdığını ortaya koyuyor. Bu anlamda ekibin risk azaltmaya yönelik çok yönlü bir yaklaşım gerektiren yeni güvenlik açıkları ortaya çıkardığını söyleyebiliriz. Rapor kapsamında üretken yapay zeka modellerinin mevcut güvenlik açıklarını artırırken yeni siber saldırı vektörleri ortaya çıkardığından bahsediliyor.
Rapora göre; üretken yapay zeka içinde, eski yazılım bileşenleri veya uygunsuz hata işleme gibi geleneksel güvenlik risklerinin kritik endişeler olmaya devam ediyor. Ancak ek olarak, hızlı enjeksiyonlar gibi model düzeyinde zayıflıklar da yapay zeka sistemlerinde benzersiz zorluklar yaratıyor.
Ayrıca raporda belirtildiği üzere; otomasyon araçları istemler oluşturmak, siber saldırıları düzenlemek ve yanıtları puanlamak için yararlı olsa da, kırmızı ekip oluşturmak tamamen otomatikleştirilemeyecek. Rapor, yapay zeka kırmızı ekip oluşturmanın büyük ölçüde insan uzmanlığına dayandığına dikkat çekiyor. Bunun nedeni, nefret söylemi veya müstehcen içerik gibi genel riskleri belirleyebilen dil modellerinin alana özgü nüanslı sorunları değerlendirmekte zorlanması. Burada konunun uzmanları devreye girerek tıp, siber güvenlik ve otomasyonun genellikle yetersiz kaldığı kimyasal, biyolojik, radyolojik ve nükleer bağlamlar gibi özel alanlardaki içeriği değerlendirebiliyor.
Son olarak rapor, üretken yapay zekadaki riskleri azaltmak için sürekli testlerin, sağlam savunmaların ve uyarlanabilir stratejilerin birleştiği katmanlı bir yaklaşıma ihtiyaç olduğunu belirtiyor.