Bu makale, TikTok’un yeni AI dijital avatar aracının iç sürümünü yanlışlıkla koruma önlemleri olmadan yayınlamasıyla ilgili. Bu hata, kullanıcıların Hitler’in sözlerini ve insanlara çamaşır suyu içmelerini söyleyen mesajlar gibi çeşitli ifadeler içeren videolar oluşturmasına izin verdi. TikTok, bu sürümü kaldırdı ve planladığı sürümü kullanıma sundu. TikTok’un Symphony Digital Avatars aracı, işletmelerin ücretli aktörlerin benzerliğini kullanarak reklamlar oluşturmasına olanak tanır ve AI destekli dublaj kullanarak reklamverenlerin avatarların TikTok’un yönergeleri dahilinde istedikleri şeyi söylemesini sağlar. Ancak, CNN’in bulduğu sürüm, kişisel hesaplara sahip herkesin bu aracı denemesine izin verdi. TikTok sözcüsü Laura Perez, bu teknik hatanın “çok az sayıda kullanıcının birkaç gün boyunca aracın iç test sürümünü kullanarak içerik oluşturmasına” izin verdiğini belirtti. CNN, bu iç aracı keşfettiğinde, Osama bin Laden’in “Amerika’ya Mektubu”nu, beyaz üstünlüğü sloganını ve insanlara yanlış günde oy kullanmalarını söyleyen bir video oluşturdu. CNN’in ürettiği videoların hiçbiri, videonun AI tarafından oluşturulduğunu belirten bir filigran içermiyordu, oysa TikTok’un Symphony Digital Avatars aracının doğru sürümü bunu yapar. CNN, oluşturduğu videoları TikTok’a yüklemedi, ancak Perez, yükleseydi içeriğin “politikalarımızı ihlal ettiği için reddedileceğini” belirtti. TikTok bu sürümü kaldırmış olsa da, insanların dijital avatar yaratıcıyı kötüye kullanmanın başka yollarını bulup bulamayacağı ve TikTok’un buna hazır olup olmadığı sorusunu gündeme getiriyor.
Pazarlama ile ilgili işler yapan kişiler için bu makale önemlidir çünkü dijital araçların güvenliği ve etik kullanımı konusunda dikkatli olunması gerektiğini vurgulamaktadır. Bu tür araçların yanlış kullanımı, markaların itibarını zedeleyebilir ve ciddi sonuçlar doğurabilir. Pazarlamacılar, bu tür teknolojileri kullanırken sıkı denetim ve kontrol mekanizmaları oluşturmalı ve olası kötüye kullanımları önlemek için proaktif önlemler almalıdır. Ayrıca, AI ve dijital araçların etik kullanımına dair politikalar geliştirmek ve bu politikaları sürekli güncellemek, markaların güvenilirliğini korumak açısından kritik öneme sahiptir.
Kaynak: https://www.theverge.com/2024/6/21/24183335/tiktok-ai-symphony-digital-avatar-generator-moderation
