Kameralı ve sensörlü yeni nesil bir Roomba robot süpürge, 2020 yılında tuvaletini yapan bir kadını kaydetti (diğer birçok vakanın yanı sıra) ve görüntüler başta Facebook olmak üzere sosyal medya aracılığıyla tüm dünyaya yayıldı. Peki bu nasıl oldu? Gerçek şu ki, mesele robotun görüntüleri yayınlaması değil, yapay zeka eğitim sistemlerinin ve her şeyden önce herkesin mahremiyetinin sorgulanması. MIT Tech Review‘da yer alan habere göre, görüntüler bir kişi tarafından değil, iRobot şirketinin ürettiği Roomba J7 robot sürpürgenin geliştirme versiyonları tarafından çekildi.
iRobot: Sorun yapay zekada değil, insan faktöründe
Daha sonra bu veriler, yapay zekayı eğitmek için kullanılan ses, fotoğraf ve video verilerini etiketlemek üzere dünyanın dört bir yanından çalışanları işe alan bir startup olan Scale AI‘ye gönderildi. Oradan da her yere dağıldı.
MIT Technology Review, sosyal medya gruplarına gönderilmiş olan bu özel fotoğrafların 15 ekran görüntüsünü ele geçirdi. Özellikle bir karede, lavanta rengi tişört giymiş genç bir kadının tuvalette oturduğu görülüyor.
Bir başka görüntüde, sekiz ya da dokuz yaşlarında olduğu anlaşılan ve yüzü açıkça görülebilen bir çocuk, koridorun zeminine yüzüstü yatmış durumda. Diğer çekimler dünyanın dört bir yanındaki evlerden, bazılarında insanların, bazılarında ise bir köpeğin yaşadığı odaları gösteriyor. Yakın zamanda Amazon tarafından 1,7 milyar dolara satın alınan iRobot konuyla ilgili yaptığı açıklamalarda, bu görüntülerin 2020 yılında Roomba tarafından çekildiğini doğruladı. Şirkete göre sorun Robotun kendisinde değil, akıllı süpürgeler için kullanılan algoritmanın eğitiminden sorumlu olan insan faktöründeydi.
Sızıntı hakkında soruşturma başlatıldı
iRobot’a göre, cihazlar “video kaydı devam ediyor” yazan parlak yeşil bir etiketle etiketlenmişti ve test edilmesi amacıyla çalışanlarına dağıtılmıştı. Başka bir deyişle, şirketin açıklamalarına göre, fotoğrafları veya videoları ortaya saçılan herkes, Roomba’larının onları izlemesine izin vermişti.
iRobot’a göre bu asla gerçekleşmemeliydi. Şirket, görüntüleri sızdıran hizmet sağlayıcıyla ilişkisini sonlandırdı, konuyu aktif bir şekilde araştırıyor ve MIT Tech Review’a bildirdiği üzere, gelecekte herhangi bir hizmet sağlayıcı tarafından benzer bir sızıntının önlenmesine yardımcı olacak adımlar atıyor.