CENTRUM.CZ > Techzpravy.cz > dnes, 19:00

Komentář: Zbraň místo pomocníka. AI videa se mění v nástroj ponižování

| 5 min

Sdílet

Generativní videonástroje jako Sora 2 se místo umělecké revoluce stávají nástrojem vizuálního posměchu. Lavina videí zesměšňujících obézní zaplavuje sítě a odborníci varují, že nejde jen o „vtipy“, ale o obsah s reálným dopadem na duševní zdraví a společenské postoje.

Komentář: Zbraň místo pomocníka. AI videa se mění v nástroj ponižování

Zdroj: DedMityay / Depositphotos

Zatímco šéfové společností jako Netflix nebo Disney předpovídají tvůrčí revoluci poháněnou generativní umělou inteligencí a mluví o demokratizaci umělecké tvorby a podobně, v reálném světě se zdá, že to, co nástroje jako Sora 2 demokratizovaly nejrychleji, je produkce neuvěřitelně propracovaných vizuálních urážek.

Konkrétně několik médií zjistilo, že snadnost generování „hyperrealistických“ videí z takových aplikací se využívá k vytváření laviny „slopů“ (nevyžádaného obsahu) zaměřených na lidi s nadváhou nebo na obézní. Tento trend nejenže odráží nezodpovědné využívání technologií, ale také vyvolává etické obavy ohledně toho, jak je umělá inteligence využívána k posilování existujících společenských předsudků.

Kde jsou hranice výtvorů umělé inteligence?

Někteří uživatelé tvrdí, že díky relativně snadné identifikaci tohoto obsahu jako vytvořeného umělou inteligencí prostřednictvím vodoznaku Sora 2 nebo jinými prostředky je neškodné, ale pravdou je, že se stále jedná o neuvěřitelně krutý obsah. Snadnost, s jakou lze tyto vodoznaky a metadata odstranit, je alarmující, protože umožňuje šíření těchto videí bez zjevných omezení.

Mohlo by vás zajímat: Komentář: Rok 2025 měl přinést AI agenty, kteří nahradí lidi. Co se s nimi stalo?

Navíc je tato „ochrana“ přinejlepším naivní. Viditelné vodoznaky a metadata, které OpenAI a další společnosti do svých videí vkládají, aby je identifikovaly jako syntetická, se ukázaly jako mimořádně křehká bariéra. Již několik dní po uvedení Sory 2 na trh kolovalo několik online služeb specializovaných na odstranění obou vrstev ochrany během několika sekund.

Například nástroje jako Bylo.ai nebo MagicEraser využívají umělou inteligenci k detekci a maskování pixelů vodoznaku a chybějící oblast vyplňují informacemi extrapolovanými ze sousedních snímků. Tato schopnost manipulace podtrhuje potřebu vyvinout robustnější metody ochrany integrity obsahu generovaného umělou inteligencí.

Video k článku ZDE

Zdroj: Youtube.com

Hany Farid, profesor na Kalifornské univerzitě v Berkeley, komentoval rychlost, s jakou se tyto odstraňovače objevily, jako předvídatelnou a ve svém prohlášení pro 404 Media uvedl, že „to není poprvé, kdy model umělé inteligence implementoval viditelné značky a téměř okamžitě se objevily služby, které je odstranily“. To poukazuje na pokračující závod mezi vývojáři umělé inteligence a těmi, kteří se snaží využít jejích zranitelností.

Kromě toho platformy, jako je YouTube Shorts, začínají aplikovat filtry škálování AI na všechna videa ve svém katalogu, aby „zvýšily vizuální kvalitu obsahu“. Cílem je sice zlepšit uživatelský zážitek, ale tento přístup má také vedlejší účinek v tom, že veškerý obsah vypadá jako vytvořený umělou inteligencí, což dále komplikuje úkol rozlišit autentický a syntetický obsah.

Vrátíme-li se k jádru věci, trendem, který si razí cestu na platformy krátkých videí, je vytváření „humorného“ obsahu s umělou inteligencí, v němž vtip spočívá v tom, že člověk s nadváhou upadne, ukradne někomu jídlo nebo je prostě obézní. Chcete-li to potvrdit, stačí se projít po TikToku, Shorts nebo Reels, ujišťuji vás, že vám nebude trvat dlouho a najdete několik příkladů, které nasbírají statisíce lajků.

Mám kamaráda, který miluje generativní umělou inteligenci a tráví spoustu volného času experimentováním s ní. Zeptal jsem se ho, co si myslí o tom, že se k tomuto účelu používá Sora 2, a jeho odpověď byla, že „nikomu neubližují, nejsou to skuteční lidé, nikomu se nevysmívají, je to humor“.

Já jsem mu se vší láskou odpověděl, že jsem nedávno četl článek publikovaný v časopise The Lancet, v němž vědci z Oxfordské univerzity vysvětlují, že umělá inteligence může mít výrazný negativní dopad na duševní a emocionální pohodu dětí a dospívajících, což jsou shodou okolností dvě skupiny velmi náchylné k poruchám příjmu potravy. Autoři studie uvádějí, že „vystavení tomuto typu obsahu, který posiluje ponižující stereotypy a podporuje fatfobii, může u těchto skupin zvýšit úzkost, izolaci a upevnit negativní sebepojetí“.

Video k článku ZDE

Zdroj: Youtube.com

S tímto vědomím považuji za nezodpovědné si myslet, že tento obsah je vlastně neškodný.Nemyslím si, že by se měly klást meze humoru nebo že by se mělo zakazovat zveřejňování určitých věcí, ale myslím si, že je rozumné nějak regulovat obsah, kde „vtip“ spočívá v tom, že se na někoho ukáže a řekne se „haha, podívej, co dělá ten tlusťoch“.

Najít tyto aplikace není složité. Jednoduché vyhledávání v Googlu během psaní tohoto textu mě přivedlo k nalezení nesčetného množství článků o SEO, jako je tento, které shrnují „nejlepší“ stránky pro odstranění vodoznaků z videí s umělou inteligencí.

Potřeba etické a technické regulace

Používání umělé inteligence k vytváření urážlivého a ponižujícího obsahu není jen technický, ale také etický problém. Technologická komunita a zákonodárci musí spolupracovat na vytvoření norem, které by regulovaly používání umělé inteligence při tvorbě obsahu. To by mohlo zahrnovat vývoj pokročilejších algoritmů pro detekci a blokování urážlivého obsahu a také zavedení přísnějších zásad pro platformy, které tato videa hostují.

V konečném důsledku je na nás všech: na vývojářích, uživatelích i platformách, abychom zajistili, že technologie budou využívány způsobem, který bude prospěšný pro celou společnost, a ne že budou upevňovat škodlivé stereotypy a podporovat diskriminaci.

Musím se přiznat, že mě děsí, s jakou lehkostí se nástroje jako Sora 2, původně určené k posouvání hranic kreativity, mění v mašinérii na ponižující obsah. Vidím to denně na platformách jako TikTok nebo YouTube Shorts, kde se šíří lavina tzv. „slopů“ – videí, která si dělají legraci z lidí s nadváhou. A co je horší, takzvané ochrany v podobě vodoznaků? Ty jsou odstraňovány v podstatě okamžitě, jakmile se objeví, speciálními AI nástroji. To je jako postavit bariéru z papíru proti tsunami. Věřím, že je na čase si uvědomit, že to není jen technický problém, ale etické selhání nás všech. Jak dlouho budeme přihlížet, než si uvědomíme, že „vtip“ ukazující na někoho, kdo je tlustý, není vtip, ale šikana? Je potřeba razantní regulace a zodpovědnost ze strany platforem, ale i nás, uživatelů.

Zdroje článku: 404media.co, Autorský text, www.techzpravy.cz

Reklama

DALŠÍ ČLÁNKY z Techzpravy.cz

Vybrali jsme pro vás MAGAZÍNY A ZAJÍMAVOSTI

Gigabitová Evropa: Nová pravidla EU zrychlí výstavbu optických sítí

Evropská unie přijala nové nařízení o gigabitové infrastruktuře, které má urychlit výstavbu optických sítí,...

Techzpravy.cz|

dnes, 21:00

| 2 min

Třeštíková se zostra pustila do lidí hubnoucích prostřednictvím injekcí: podle ní mají raději zadarmo běhat

Spisovatelka Radka Třeštíková nadzvedla část svých fanoušků na sociálních sítích. V příspěvku na Instagramu...

Žena.cz|

dnes, 20:40

Na vlastní riziko: 16 nejbizarnějších reality show, které svět musel vidět. Jsou mezi nimi i dvě české

Reality show už dávno nejsou jen o hledání lásky nebo zpěvu. Některé pořady překračují všechny hranice – ať...

Žena.cz|

dnes, 20:40

Tyhle rostliny vám ničí spánek: Nemáte je v ložnici?

Ložnice má být oázou klidu, odpočinku a místem, kde tělo i mysl skutečně regenerují. Překvapivě však i...

Žena.cz|

dnes, 20:40

Chcete pro babičku asistenta? Může být z řad dobrovolníků

Jednou z možností, jak si rozdělit v rodině péči o seniora, je využít dobrovolnických služeb. Asi správně...

NESPECHEJ.cz|

dnes, 20:30

| 2 min

Reklama

Erika Stárková už není s otcem své dcery. V Česku s ní zůstala sama

Erika Stárková, herečka kterou proslavila role transgender Dáši z Mostu!, oznámila, že se rozešla se svým...

KINOTIP2.cz|

dnes, 20:30

| 2 min

Tohle není sci-fi: Sluneční soustava je propojena s okolím neviditelným kanálem

Nová rentgenová pozorování odhalila strukturu horkého, řídkého plynu spojujícího naši sluneční soustavu s...

Techzpravy.cz|

dnes, 20:00

| 3 min

Dům fotografie bude 17. listopadu výjimečně otevřený s výstavou Dagmar Hochové

Pražský Dům fotografie zůstane v pondělí 17. listopadu výjimečně otevřený, ačkoli obvykle bývají galerie v...

Pražská Drbna|

dnes, 20:00

| 1 min

Výklad tarotových karet na tento víkend: Býky zasáhne lehká podzimní deprese, Rakům karta Čtyřka disků dodá sebevědomí

Zatím nemáte moc jasnou představu o vašem víkendu? Zkuste se podívat na výklad tarotových karet na...

FAJNTIP.cz|

dnes, 20:00

| 3 min

Putin si telefonoval s Netanjahuem o situaci na Blízkém východě

Uskutečnila se podrobná výměna názorů na situaci v blízkovýchodním regionu, včetně vývoje v Pásmu Gazy,...

Zprávy - Aktuálně.cz|

dnes, 19:47

Reklama

Bojovnice Oktagonu se nestydí. Katharina Lehner šla do odvážných bikin

Trpkou porážku i hněv z rozhodnutí sudích odhodila stranou a stejně tak shodila i oblečení. Německá...

MMAMAG.cz|

dnes, 19:39

| 1 min

Slovenský vicepremiér Kmec po kritice týkající se dotací sám podal demisi

Premiér Robert Fico přitom ještě v pátek ohlásil vlastní návrh na Kmecovo odvolání.

Zprávy - Aktuálně.cz|

dnes, 19:38

Papež ve Vatikánu podpořil existenci kin. Sešel se s Blanchettovou nebo Mortensenem

„Násilí, chudoba, exil, osamělost, závislosti, zapomenuté války jsou rány, které je třeba vidět a o kterých...

Magazín - Aktuálně.cz|

dnes, 19:38

Ostravská nemocnice pozastavila stravování zaměstnanců kvůli nálezu žloutenky

Městská nemocnice Ostrava ode dneška pozastavila přípravu a výdej jídel pro své zaměstnance. U jednoho z...

Ostravská Drbna|

dnes, 19:30

| 1 min

KVÍZ: Nezapomenutelné filmové role „krále komiků“ Vlasty Buriana

Filmový i divadelní herec, zpěvák nebo fotbalista. To je jen malý výčet profesí milovaného Vlasty Buriana....

KINOTIP2.cz|

dnes, 19:30

| 1 min

Reklama

Španělé a Rakušané jsou krok od mistrovství světa

Španělští fotbalisté mají po výhře v Gruzii 4:0 na dosah postup na mistrovství světa, podobně jako...

Sport - Aktuálně.cz|

dnes, 19:10

Kryštof Rímský alias Mára z Ulice: Heroin ho málem zničil. „Bylo to i s jehlami, naši mě odvezli na detox“

Herec Kryštof Rímský si prošel závislostí na heroinu a životem na dně. Dnes patří k oporám seriálu Ulice,...

ReadZone|

dnes, 19:01

| 3 min

Komentář: Zbraň místo pomocníka. AI videa se mění v nástroj ponižování

Generativní videonástroje jako Sora 2 se místo umělecké revoluce stávají nástrojem vizuálního posměchu....

Techzpravy.cz|

dnes, 19:00

| 5 min

Komu v listopadu hrozí vyčerpání a měl by na sebe dávat pozor?

Podzim je poměrně náročným obdobím. Zdraví může dostat pořádně zabrat a citlivější znamení mohou pocítit...

FAJNTIP.cz|

dnes, 19:00

| 3 min

Telco operátorovi T-Mobile za tři kvartály stouply tržby o více než 600 milionů

Mobilní operátor T-Mobile (majitel Deutsche Telekom) za tři kvartály letošního roku znatelně navýšil...

Borovan.cz|

dnes, 18:53

| 1 min

Reklama

Doporučujeme

Právě u nás vyšlo

Lucie Bílá darovala synovi k 30. narozeninám luxusní dárek za 18 milionů

Komentář: Zbraň místo pomocníka. AI videa se mění v nástroj ponižování

Lucie Bílá darovala synovi k 30. narozeninám luxusní dárek za 18 milionů

Třeštíková se zostra pustila do lidí hubnoucích prostřednictvím injekcí: podle ní mají raději zadarmo běhat

Jak únos malého Tadeáška z kočárku navždy změnil Česko: Pachatelku dopadli kvůli hloupé chybě

Meteorologové zveřejnili předpověď na celý prosinec. Pro Čechy to nejsou dobré zprávy

Na vlastní riziko: 16 nejbizarnějších reality show, které svět musel vidět. Jsou mezi nimi i dvě české