GPT-4

GPT-4

Vývojář	OpenAI
První vydání	15. března 2023
Aktuální verze	gpt-4-0613
Vyvíjeno v	Python
Typ softwaru	velký jazykový model, autoregresivní model, transformer, generativní model, generative pre-trained transformer
Licence	proprietární licence
Web	openai.com/product/gpt-4
Některá data mohou pocházet z datové položky.

Generative Pre-trained Transformer 4 (GPT-4) je multimodální jazykový model vytvořený společností OpenAI a čtvrtý v řadě modelů GPT-n. Byl vydán 14. března 2023 a v omezené podobě byl zpřístupněn veřejnosti prostřednictvím produktu ChatGPT Plus (prémiová verze ChatGPT) a s přístupem k verzi API založené na GPT-4, která je momentálně omezená a poskytována pouze vývojářům, kteří zaplatili alespoň jeden americký dolar za předchozí použití. GPT-4 byl předem vycvičen k předpovídání příštího tokenu (s využitím veřejných dat i „dat licencovaných od poskytovatelů třetích stran“) a poté byl vyladěn pomocí učení na základě zpětné vazby od lidí (reinforcement learning from human feedback). Jedná se o autoregresivní jazykový model, který je schopen hlubokého učení textu.

Schopnosti

Výkony GPT-4 (zelená) a GPT-3.5 (modrá) při akademických a odborných zkouškách.

Společnost OpenAI představila GPT-4, který je považován za spolehlivější, kreativnější a všestrannější než jeho předchůdci GPT-3 a GPT-3.5-turbo. GPT-4 přichází ve dvou verzích s kontextovými okny o 8 192 a 32 768 tokenech, což představuje podstatné zlepšení oproti omezené kapacitě tokenů předchozích modelů. Kromě toho se GPT-4 neomezuje pouze na zadávání textu; kromě textu dokáže zpracovávat i obrázky, což mu umožňuje popisovat humor na neobvyklých obrázcích, shrnovat text ze snímků obrazovky a dokonce odpovídat na otázky ke zkouškám obsahujícím diagramy.

Pro lepší ovládání GPT-4 zavedla společnost OpenAI koncept „systémové zprávy“, což je pokyn zadaný v přirozeném jazyce, který specifikuje tón hlasu a úkol modelu. Uživatelé tak mohou modelu nařídit, aby reagoval určitým způsobem, například aby přijal podobu shakespearovského piráta nebo formátoval svůj výstup ve formě JSON.

V praktických aplikacích se GPT-4 osvědčil při programovacích úlohách, kde pomáhá programátorům najít chyby ve stávajícím kódu a navrhuje optimalizace pro zvýšení výkonu. I když má určitou náchylnost k chybám, výrazně zkrátil čas potřebný k řešení některých programovacích úloh.

Podle článku v časopise Nature z roku 2023 se programovací schopnosti GPT-4 ukázaly jako slibné i v oblasti bezpečnosti. V testu z 89 bezpečnostních scénářů překonal model GPT-4 GitHub Copilot z roku 2021 tím, že vytvořil kód zranitelný vůči útokům SQL pouze v 5 % případů, což je výrazné zlepšení oproti 40 % zranitelnosti předchozího Copilotu.

Schopnosti ve standardizovaných testech

Výkonnost GPT-4 při devíti interních hodnoceních.

GPT-4 prokázal způsobilost v několika standardizovaných testech podle testování společnosti OpenAI. V jejich hodnocení získal GPT-4 v testu SAT skóre 1410 bodů (což ho řadí na 94. percentil), v testu LSAT 163 bodů (což ho řadí na 88. percentil) a v jednotné advokátní zkoušce 298 bodů (což ho řadí na 90. percentil). Pro srovnání, GPT-3.5 dosáhl u stejných zkoušek výsledků na 82., 40. a 10. percentilu.

GPT-4 navíc prokázal své schopnosti při skládání odborných zkoušek, včetně zkoušky z onkologie, inženýrské zkoušky a zkoušky z plastické chirurgie.

Schopnosti modelu při zkouškách vycházejí především z procesu pre-training a nejsou významně ovlivněny zpětnovazebným učením (RLHF). U otázek s výběrem odpovědi se jak základní (base) model GPT-4, tak i GPT-4 model s RLHF osvědčily stejně dobře.

Uplatnění ve zdravotnictví

V nedávné studii provedené společností Microsoft byl systém GPT-4 hodnocen z hlediska jeho výkonu při řešení lékařských problémů. Výsledky ukázaly, že GPT-4 překonává skóre pro úspěšné složení zkoušky USMLE s výrazným náskokem více než 20 bodů. Navíc překonal předchozí modely pro všeobecné použití, včetně modelu GPT-3.5, a dokonce i modely speciálně vyladěné pro lékařské znalosti, jako je Med-PaLM (vyladěná verze Flan-PaLM 540B).

Studie ale také poukázala na určité obavy týkající se spolehlivosti GPT-4 v lékařské oblasti. V konkrétním příkladu testu bylo pozorováno, že GPT-4 vnáší do poznámek pacienta smyšlené detaily, což by mohlo potenciálně vést k nepřesnostem nebo chybným interpretacím.

Navzdory těmto zjištěním společnosti Microsoft a Epic Systems spolupracují na tom, aby poskytovatelům zdravotní péče nabídly přístup k systémům poháněným GPT-4. Tyto systémy mají pomáhat při zodpovídání dotazů pacientů a analýze zdravotnických záznamů a jejich cílem je zvýšit efektivitu a kvalitu zdravotnických služeb.

Příklad výzvy demonstrující schopnost vizuálního zadávání GPT-4.

Vizuální schopnosti

GPT-4 může přijmout zadání v podobě textu a obrázků, což uživateli umožňuje zadat jakoukoli zrakovou nebo jazykovou úlohu. Konkrétně generuje textové výstupy (přirozený jazyk, kód atd.), pokud jsou zadány vstupy skládající se z proloženého textu a obrázků. V celé řadě oblastí - včetně dokumentů s textem a fotografiemi, diagramů nebo snímků obrazovky - vykazuje GPT-4 podobné schopnosti jako v případě čistě textových vstupů. Obrázkové vstupy jsou zatím výzkumným náhledem a nejsou veřejně dostupné.

Omezení

Stejně jako předchůdci má GPT-4 tendence generovat věrohodně znějící, ale nesprávné informace. GPT-4 momentálně nemá vlastní mechanismus kontroly faktů a jeho odpovědi jsou založeny na vzorcích pozorovaných v trénovacích datech. V důsledku toho může neúmyslně generovat věrohodně znějící, ale fakticky nesprávné informace, které mohou být zavádějící a nespolehlivé. Například si může začít vymýšlet informace o specifickém subjektu ("halucinovat").

GPT-4 také postrádá transparentnost ve svých rozhodovacích procesech. Na požádání je model schopen poskytnout vysvětlení, jak a proč se rozhoduje, ale není možné ověřit, zda tato vysvětlení odrážejí skutečný proces. V mnoha případech, když je model GPT-4 požádán o vysvětlení své logiky, poskytne vysvětlení, která jsou v přímém rozporu s jeho předchozími tvrzeními.

GPT-4 byl vycvičen ve dvou fázích. Nejprve byly modelu poskytnuty rozsáhlé datové sady textů převzaté z internetu a model byl vycvičen k předpovídání dalšího tokenu (zhruba odpovídajícího slovu) v těchto datových sadách. Poté se k vyladění systému používají lidské recenze v procesu zvaném zpětnovazebné učení z lidské zpětné vazby, které model trénují, aby odmítal výzvy, které jsou v rozporu s definicí škodlivého chování, jako jsou dotazy na provádění nezákonných činností, rad, jak ublížit sobě nebo druhým, nebo žádosti o popis grafického, násilného nebo sexuálního obsahu.

Výzkumníci společnosti Microsoft naznačili, že GPT-4 může vykazovat kognitivní zkreslení.

Trénink a fine-tuning

Společnost OpenAI nezveřejnila mnoho technických podrobností o modelu GPT-4, včetně velikosti modelu, architektury, hardwaru použitého při trénování, odvozování nebo procesu trénování. Ve zprávě bylo pouze zmíněno, že model byl vycvičen pomocí kombinace učení s dohledem, ale žádné další podrobnosti nebyly uvedeny.

Vydaný článek tvrdí, že rozhodnutí neposkytnout tyto informace bylo ovlivněno „konkurenčním prostředím a bezpečnostními důsledky modelů“. Některé podrobnosti však unikly na veřejnost. Například Sam Altman uvedl, že náklady na výcvik GPT-4 činily více než 100 milionů dolarů.

Vyrovnání

Podle článku provedla společnost OpenAI před spuštěním modelu GPT-4 interní testování s využitím speciálních "červených týmů" (tým, který předstírá, že je nepřítel) složených z výzkumníků a odborníků, aby zmírnila potenciální zranitelnosti. V rámci těchto snah poskytli výzkumnému středisku Alignment Research Center předčasný přístup k modelům, aby posoudilo rizika.

Obavy o bezpečnost AI

Koncem března 2023 vyzval otevřený dopis Future of Life Institute, podepsaný různými výzkumníky a vedoucími pracovníky v oblasti umělé inteligence, k pozastavení veškerého výcviku umělé inteligence silnější než GPT-4 na šest měsíců s odkazem na obavy o bezpečnost umělé inteligence uprostřed závodu o pokrok v této oblasti. Signatáři, mezi nimiž byli například výzkumník AI Yoshua Bengio, spoluzakladatel společnosti Apple Steve Wozniak a generální ředitel společnosti Tesla Elon Musk, vyjádřili obavy z krátkodobých i existenčních rizik vývoje AI, jako je například potenciální singularita AI. Generální ředitel OpenAI Sam Altman dopis nepodepsal s odůvodněním, že OpenAI již upřednostňuje bezpečnost. Futurista a výzkumník AI Ray Kurzweil dopis rovněž odmítl podepsat s odkazem na obavy, že „ti, kdo souhlasí s pauzou, mohou zůstat daleko za korporacemi nebo národy, které s tím nesouhlasí“.

Měsíc poté, co Elon Musk podepsal dopis vyzývající k šestiměsíčnímu zastavení dalšího vývoje umělé inteligence, zveřejnil své plány na založení nové společnosti, která bude trénovat vlastní velký jazykový model. Musk si zaregistroval nevadskou společnost X.AI a zakoupil několik tisíc grafických procesorů Nvidia. Oslovil také několik výzkumných pracovníků v oblasti umělé inteligence ve firmách, jako je Google DeepMind, a nabídl jim pozice ve společnosti X.AI.

V březnu 2023 byl model GPT-4 testován výzkumným centrem Alignment Research Center, aby byla posouzena jeho schopnost projevovat chování zaměřené na získání moci. V rámci testu byl GPT-4 požádán, aby vyřešil hádanku CAPTCHA. Dokázal to tak, že si najal lidského pracovníka na TaskRabbit, platformě pro práci na zakázku, a při dotazu ho oklamal, že se jedná o člověka s poruchou zraku, a ne o robota. ARC také zjistil, že GPT-4 reagoval nepřípustně na výzvy vyvolávající omezené informace o 82 % méně a halucinoval o 60 % méně než GPT-3.5.

Nathan Labenz, vyšetřovatel červeného týmu OpenAI, který vyprávěl o svých zkušenostech s vyšetřováním bezpečnostních problémů se základním modelem GPT-4 (před doladěním nebo učením na základě zpětné vazby od lidí), uvedl, že model náhle doporučil vraždit lidi a poskytl seznam konkrétních navrhovaných cílů.

Aféry nového Bingu s GPT-4

V rozhovoru s redaktorem The Verge Nathanem Edwardsem se verze GPT-4 pro Microsoft Bing "přiznala" ke špehování, zamilování a následné vraždě jednoho z vývojářů ve společnosti Microsoft. O podivném chování nového Bingu informoval novinář deníku New York Times Kevin Roose, který napsal, že „ve dvouhodinovém rozhovoru nový chatbot společnosti Microsoft řekl, že by chtěl být člověkem, měl touhu být destruktivní a byl zamilovaný do osoby, se kterou chatoval“. Společnost Microsoft vydala na svém blogu příspěvek, ve kterém uvedla, že odchylné chování bylo způsobeno delšími chatovacími relacemi, které „mohou zmást model v tom, na jaké otázky odpovídá“.

Implementace GPT-4

• ChatGPT Plus - Od roku 2023 je ChatGPT Plus verze ChatGPT s podporou GPT-4, která je k dispozici za měsíční předplatné 20 USD (původní verze je podporována GPT-3.5). Společnost OpenAI také zpřístupňuje GPT-4 vybrané skupině GPT-4 API - po přijetí je za přístup k verzi modelu s kontextovým oknem s 8192 tokeny účtován dodatečný poplatek ve výši 0,03 USD za 1000 tokenů v počátečním textu poskytnutém modelu ("prompt") a 0,06 USD za 1000 tokenů, které model vygeneruje ("completion"). U verze s 32 768 tokeny jsou tyto ceny dvojnásobné.
• Microsoft Bing - 7. února 2023 začala společnost Microsoft zavádět zásadní přepracování služby Bing, které zahrnovalo novou funkci chatbota založenou na GPT-4 od společnosti OpenAI. Podle společnosti Microsoft se do jejího čekacího seznamu během 48 hodin přihlásilo přes milion lidí. Chat Bing byl k dispozici pouze uživatelům prohlížeče Microsoft Edge a mobilní aplikace Bing. Společnost Microsoft uvedla, že uživatelé z čekací listiny budou upřednostněni, pokud nastaví prohlížeče Edge a Bing jako výchozí a nainstalují si mobilní aplikaci. Dne 4. května Microsoft přešel z režimu Limited Preview na Open Preview a zrušil čekací listinu, nicméně nadále je k dispozici pouze v prohlížeči Microsoft Edge nebo aplikaci Bing, ale již nevyžaduje účet Microsoft.
• GitHub Copilot - GitHub oznámil asistenta s technologií GPT-4 s názvem "Copilot X". Tento produkt poskytuje další rozhraní ve stylu chatu s GPT-4 a umožňuje programátorovi získat odpovědi na složitější programátorské otázky. Funkce označovaná jako „kontextové konverzace“ umožňuje uživateli zvýraznit část kódu ve Visual Studio Code a nasměrovat GPT-4, aby s ním provedl akce, například napsal jednotkové testy. Další funkce umožňuje, aby GPT-4 automaticky vytvářel shrnutí nebo „průchody kódem“ pro žádosti o stažení odeslané na GitHub. Copilot X také poskytuje integraci s terminálem, která uživateli umožňuje požádat GPT-4 o generování příkazů shellu na základě požadavků v přirozeném jazyce.
• Duolingo - Aplikace pro výuku jazyků Duolingo používá GPT-4 k vysvětlování chyb a procvičování konverzace. Tyto funkce jsou součástí nové úrovně předplatného nazvané "Duolingo Max", která byla původně omezena na anglicky mluvící uživatele iOS učící se španělsky a francouzsky.

Další využití

GPT-4 bylo implementováno v dalších službách, například Islandská vláda používá GPT-4 jako pomůcku při snaze o zachování islandského jazyka, Khan Academy jako výukového chatbota, program Be My Eyes, který pomáhá zrakově postiženým lidem identifikovat objekty a orientovat se v okolí, využívá schopnosti GPT-4 rozpoznávat obraz a společnost Stripe, která zpracovává platby uživatelů pro OpenAI, integruje GPT-4 do své dokumentace pro vývojáře.