CDR.cz - Vybráno z IT

OpenAI se baží: Nový moderátor sociálních sítí nebude člověk, ale ChatGPT-4

Zdroj: Shutterstock

OpenAI, společnost, která stojí za vývojem pokročilých umělých inteligencí, jako je GPT-4, plánuje použít tento model pro moderování obsahu na digitálních platformách, zejména na sociálních médiích.

Tvrdí, že GPT-4 dokáže číst a interpretovat pravidla v dlouhých dokumentech o politice obsahu a okamžitě se přizpůsobit jejím změnám. Tím by mělo dojít k eliminaci nežádoucích zkreslení, která mohou být zavedena během trénování modelu, a k ulehčení duševní zátěže velkého počtu lidských moderátorů. 

Moderování obsahu je důležitá a náročná úloha, která vyžaduje pečlivou práci, citlivost, hluboké porozumění kontextu a také rychlou adaptaci na nové případy. Tradičně je tato úloha svěřena lidským moderátorům, kteří procházejí velkým množstvím obsahu a likvidují ten toxický a škodlivý. Je však pravdou, že to není úplně rychlý proces a může vést k duševnímu stresu. 

OpenAI se snaží řešit tyto problémy pomocí velkých jazykových modelů (LLM), jako je právě GPT-4, které dokážou porozumět a generovat přirozený jazyk. Tyto modely mohou dělat rozhodnutí o moderování obsahu na základě pokynů k politice obsahu, které jim jsou poskytnuty. S tímto systémem se proces vytváření a přizpůsobování politiky obsahu zkrátí z měsíců na hodiny.

Zdroj: Shutterstock

Jakmile je pokyn k politice obsahu napsán, odborníci na politiku mohou vytvořit zlatou sadu dat tím, že identifikují malý počet příkladů a přiřadí jim štítky podle ní. Poté GPT-4 přečte politiku a přiřadí štítky téže sadě dat, aniž by viděl odpovědi. Pak mohou odborníci požádat, aby model vysvětlil své důvody za svými štítky, analyzoval nejasnosti v definicích politiky, vyřešil veškeré nesrovnalosti a poskytl další objasnění v politice.

Tento nový přístup má také několik dalších výhod oproti současné manuální metodě moderování obsahu. Jednou z nich je snížení nekonzistentního štítkování a rychlejší zpětná vazba pro zlepšení politiky. Lidé mohou interpretovat politiku různými způsoby, než si osvojí nové změny, což často vede k nekonzistentním štítkům. Naproti tomu LLM jsou citlivé na drobné rozdíly ve formulaci a mohou se okamžitě přizpůsobit změnám politiky, což rozhodně vede ke konzistentnějšímu zážitku z obsahu pro uživatele.

Diskuse ke článku OpenAI se baží: Nový moderátor sociálních sítí nebude člověk, ale ChatGPT-4

Čtvrtek, 9 Listopad 2023 - 19:57 | Driscoll | Tak já těžko jím mohu být, já nechodím provokovat...
Čtvrtek, 9 Listopad 2023 - 17:25 | maruširi | Neřešíte nesmysly, ale zato nesmyslně krmíte...
Úterý, 5 Září 2023 - 13:07 | Driscoll | Výraz "všeci ostatní" jsem nepoužil,...
Úterý, 5 Září 2023 - 13:01 | Driscoll | Dobře. Tak já tedy budu v každém titulku používat...
Úterý, 5 Září 2023 - 12:56 | DRK | Jasně všeci ostatní jsou trolové, jen ty jsi...
Úterý, 5 Září 2023 - 12:52 | Driscoll | Ano, vy trollové jako vždy něčím překvapíte....
Pondělí, 4 Září 2023 - 10:18 | DRK | Ani společnost není živá a nemůže se "bažit...
Pondělí, 4 Září 2023 - 10:14 | DRK | Příště by bylo dobré aby nadpisy negenerovalo...
Úterý, 29 Srpen 2023 - 13:30 | Driscoll | Hurááá, hurááá - konečně to někdo pochopil :D
Úterý, 29 Srpen 2023 - 12:32 | Hugo Hugo | Promiňte, také jsem tomu nadpisu nerozuměl....

Zobrazit diskusi