Son iki yıldır Google Translate, daha doğru çeviriler sağlamak için otomatik öğrenme sistemini kullanıyor. Ancak algoritma şimdi cümleleri, bir anlam ifade etmeyen kelimeleri birleştirmeye çalışmakta ve biraz korkutucu mesajlar ortaya çıkarmaktadır. Motherboard isimli portal, Google Translate'in anlamsız kelimeleri iyi yapılandırılmış cümlelere dönüştürdüğünü bildiren bazı içerikler yayınladı.Yayınlanan örnekler farklı yabancı dildeki bazı kelimelerin birden fazla tekrarını içeriyor. Google Translate ise bu anlamsız kelimeyi şaşılacak biçimde anlamlı cümlelere dönüştürüyor.
Birinci çeviride, "Kıyamet saati 12'ye 3 var. Dünyada dramatik gelişmeler yaşıyoruz. Bu, son zamanlara ve İsa'nın geri dönüşüne gittikçe yaklaştığımızı gösteriyor" yazıyor. İkinci çeviride ise, "İbranice dilinde Allah'ın adı yazılmıştır, İbrani milletinin dilinde yazılmıştır" yazıyor. Bazı insanlar bunu doğa üstü güçlere atfederken, bazıları bunların Google'ın özel mesajlara ve e-postalara göz atarak öğrendiği metinlerden kaynaklanabileceğinden şüpheleniyor. Ancak Google sözcüsü bu olasılığı reddetti. Google Translate’in web'deki çevirilerden örnekler öğrendiğini ve çevirileri gerçekleştirmek için özel mesajlar kullanmadığını belirtti.
Bu rastlantısal ve belli belirsiz çevirilerin Google'daki kötü çalışanlar tarafından yapılmış olması mümkün. Alternatif olarak, bunlar “Öneride bulun” düğmesini kötüye kullanan sorunlu kullanıcılara da bağlı olabilir. Ancak böyle bir saldırı Google’ın radarından kaçmaz. Harvard'da Yardımcı Doçent Andrew Rush şöyle diyor: “Bu [kara kutuların] büyük çoğunluğu insan diline benzer ve yeni bir tane verdiğinizde her ne pahasına olursa olsun insan diline benzeyen bir şey üretmek için eğitilir. “