GPT-4 (Generative Pre-trained Transformer 4) — мультимодальна велика модель мови, створена компанією OpenAI, четверта в серії GPT. Випущена 14 березня 2023 року і доступна для користувачів платної версії ChatGPT — ChatGPT Plus. Як трансформер, GPT-4 була попередньо навчена прогнозувати наступний токен (використовуючи окрім загальнодоступних даних також «дані, ліцензовані сторонніми постачальниками»), а потім допрацьована за допомогою навчання з підкріпленням на базі відгуків людей.
Тип | велика мовна модель d[2] і Generative Pre-Trained Transforme[3] |
---|---|
Розробник | OpenAI |
Мова програмування | Python |
Ліцензія | пропрієтарна ліцензія[d] |
Вебсайт | openai.com/gpt-4 |
Можливості
В технічному звіті GPT-4 не вказано розмір моделі, посилаючись на «конкурентне середовище і наслідки для безпеки великомасштабних моделей». The Verge цитував плітки, що ніби-то GPT-4 суттєво збільшить кількість параметрів з 175 мільярдів в GPT-3 до 100 трильйонів, які генеральний директор OpenAI Сем Альтман назвав «повною маячнею». Представники США і підтвердили для New York Times, що Альтман відвідував Конгрес США в січні 2023 року для того, щоб продемонструвати GPT-4 та його покращені «елементи керування безпекою» порівняно з іншими моделями ШІ.
Компанія OpenAI написала в своєму блозі, що «GPT-4 надійніший, креативніший та здатний обробляти набагато складніші інструкції, ніж GPT-3.5». Нова модель може читати, аналізувати чи генерувати до 25 000 слів тексту, що значно більше ніж попередня версія технології.
Сприйняття
Газета Нью-Йорк таймс писала, що модель GPT-4 продемонструвала вражаючі покращення в точності порівняно з GPT-3.5, отримала можливість узагальнювати складні тексти, коментувати зображення, пройшла адвокатський екзамен і декілька стандартних тестів, але все ж мала схильність до у відповідях.
Критика
Компанія OpenAI критикувалась багатьма дослідниками машинного навчання за рішення приховати технічні дані про процес навчання моделі, зокрема розмір та джерела навчальних даних, витрати електроенергії, інформацію про обладнання та методи навчання. Деякі дослідники висловили думку, що приховування джерел даних, які використовувались для навчання, ускладнить перевірку безпеки ШІ (зокрема, як і чому в GPT-4 трапляються галюцинації).
Генеральний директор компанії , , так прокоментував звіт OpenAI: «Я думаю усіх турбує те, що OpenAI створили цілий документ приблизно в 90 сторінок. Створюється враження, ніби модель відкрита та академічна, але це не так. Вони практичного нічого там не описали». Фалькон також вказав, що звіт OpenAI «замаскований під дослідження» і «це стане поганим прецедентом»
Використання
GPT-4 доступний як API та для користувачів ChatGPT Plus.
Компанія Microsoft підтвердила, що версії Bing, які використовували GPT, насправді використовували GPT-4 до його офіційного релізу. 17 березня 2023 року Microsoft розповіла про плани подальшої інтеграції GPT-4 в свої продукти, анонсувавши Microsoft 365 Copilot, «який буде вбудований в програми, які мільйони людей використовують кожного дня: Word, Excel, PowerPoint, Outlook, Teams та інші».
Duolingo інтегрували GPT-4 в свій додаток і додали дві нові функції: «Рольові ігри» і «Поясни мою відповідь». Функціонал поки що доступний лише для тих, хто вивчає французьку мову чи іспанську з англійської.
Джерела даних
GPT-4, як і його попередники, використовує різноманітні джерела даних для покращення розуміння мови та можливостей створення. Проте точні набори даних, які використовуються для його навчання, не були конкретно розкриті OpenAI через міркування конфіденційності. Тим не менш, можна зробити висновок з його продуктивності та загальних практик OpenAI, що його навчання включало великий корпус цифрового тексту.
Примітки
- Sanderson K. GPT-4 is here: what scientists think // Nature / M. Skipper — NPG, , 2023. — ISSN 1476-4687; 0028-0836 — doi:10.1038/D41586-023-00816-5
- OpenAI GPT-4 Technical Report — 2023. — 100 p. — doi:10.48550/ARXIV.2303.08774 — arXiv:2303.08774
- https://www.makeuseof.com/gpt-models-explained-and-compared
- GPT-4. openai.com. 14 березня 2023. оригіналу за 14 березня 2023. Процитовано 14 березня 2023.
- GPT-4 Technical Report (PDF). OpenAI. 2023. (PDF) оригіналу за 14 березня 2023. Процитовано 14 березня 2023.
- Vincent, James (18 січня 2023). OpenAI CEO Sam Altman on GPT-4: "people are begging to be disappointed and they will be". The Verge. оригіналу за 26 січня 2023. Процитовано 27 січня 2023.
- Kang, Cecilia (3 березня 2023). As A.I. Booms, Lawmakers Struggle to Understand the Technology. The New York Times. оригіналу за 3 березня 2023. Процитовано 3 березня 2023.
- GPT-4. OpenAI. 14 березня 2023. оригіналу за 14 березня 2023. Процитовано 14 березня 2023.
- GPT-4 Developer Livestream (Videotape) (англ.). OpenAI. 14 березня 2023. оригіналу за 14 березня 2023. Процитовано 14 березня 2023 — через YouTube.
- Metz, Cade (14 березня 2023). 10 Ways GPT-4 Is Impressive but Still Flawed. The New York Times (амер.). Архів оригіналу за 14 березня 2023. Процитовано 14 березня 2023.
- Sanderson, Katharine (16 березня 2023). GPT-4 is here: what scientists think. Nature (англ.). doi:10.1038/d41586-023-00816-5.
- Lightning AI CEO slams OpenAI’s GPT-4 paper as ‘masquerading as research’. VentureBeat (амер.). 15 березня 2023. Процитовано 18 березня 2023.
- Microsoft’s new Bing was using GPT-4 all along. techcrunch.com. 14 березня 2023. оригіналу за 15 березня 2023. Процитовано 14 березня 2023.
- Warren, Tom (16 березня 2023). Microsoft announces Copilot: the AI-powered future of Office documents. The Verge.
- Introducing Duolingo Max, a learning experience powered by GPT-4. Duolingo Blog. 14 березня 2023.
- GPT-4 (9 червня 2023). Create an ideal subchapter "Data sources" for the ideal Wikipedia article "GPT-4" (eng) . OpenAI.
Вікіпедія, Українська, Україна, книга, книги, бібліотека, стаття, читати, завантажити, безкоштовно, безкоштовно завантажити, mp3, відео, mp4, 3gp, jpg, jpeg, gif, png, малюнок, музика, пісня, фільм, книга, гра, ігри, мобільний, телефон, android, ios, apple, мобільний телефон, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, ПК, web, Інтернет
GPT 4 Generative Pre trained Transformer 4 multimodalna velika model movi stvorena kompaniyeyu OpenAI chetverta v seriyi GPT Vipushena 14 bereznya 2023 roku i dostupna dlya koristuvachiv platnoyi versiyi ChatGPT ChatGPT Plus Yak transformer GPT 4 bula poperedno navchena prognozuvati nastupnij token vikoristovuyuchi okrim zagalnodostupnih danih takozh dani licenzovani storonnimi postachalnikami a potim dopracovana za dopomogoyu navchannya z pidkriplennyam na bazi vidgukiv lyudej GPT 4Tip velika movna model d 2 i Generative Pre Trained Transforme 3 Rozrobnik OpenAIMova programuvannya PythonLicenziya propriyetarna licenziya d Vebsajt openai com gpt 4MozhlivostiV tehnichnomu zviti GPT 4 ne vkazano rozmir modeli posilayuchis na konkurentne seredovishe i naslidki dlya bezpeki velikomasshtabnih modelej The Verge cituvav plitki sho nibi to GPT 4 suttyevo zbilshit kilkist parametriv z 175 milyardiv v GPT 3 do 100 triljoniv yaki generalnij direktor OpenAI Sem Altman nazvav povnoyu mayachneyu Predstavniki SShA i pidtverdili dlya New York Times sho Altman vidviduvav Kongres SShA v sichni 2023 roku dlya togo shob prodemonstruvati GPT 4 ta jogo pokrasheni elementi keruvannya bezpekoyu porivnyano z inshimi modelyami ShI Kompaniya OpenAI napisala v svoyemu blozi sho GPT 4 nadijnishij kreativnishij ta zdatnij obroblyati nabagato skladnishi instrukciyi nizh GPT 3 5 Nova model mozhe chitati analizuvati chi generuvati do 25 000 sliv tekstu sho znachno bilshe nizh poperednya versiya tehnologiyi SprijnyattyaGazeta Nyu Jork tajms pisala sho model GPT 4 prodemonstruvala vrazhayuchi pokrashennya v tochnosti porivnyano z GPT 3 5 otrimala mozhlivist uzagalnyuvati skladni teksti komentuvati zobrazhennya projshla advokatskij ekzamen i dekilka standartnih testiv ale vse zh mala shilnist do u vidpovidyah Kritika Kompaniya OpenAI kritikuvalas bagatma doslidnikami mashinnogo navchannya za rishennya prihovati tehnichni dani pro proces navchannya modeli zokrema rozmir ta dzherela navchalnih danih vitrati elektroenergiyi informaciyu pro obladnannya ta metodi navchannya Deyaki doslidniki vislovili dumku sho prihovuvannya dzherel danih yaki vikoristovuvalis dlya navchannya uskladnit perevirku bezpeki ShI zokrema yak i chomu v GPT 4 traplyayutsya galyucinaciyi Generalnij direktor kompaniyi tak prokomentuvav zvit OpenAI Ya dumayu usih turbuye te sho OpenAI stvorili cilij dokument priblizno v 90 storinok Stvoryuyetsya vrazhennya nibi model vidkrita ta akademichna ale ce ne tak Voni praktichnogo nichogo tam ne opisali Falkon takozh vkazav sho zvit OpenAI zamaskovanij pid doslidzhennya i ce stane poganim precedentom VikoristannyaGPT 4 dostupnij yak API ta dlya koristuvachiv ChatGPT Plus Kompaniya Microsoft pidtverdila sho versiyi Bing yaki vikoristovuvali GPT naspravdi vikoristovuvali GPT 4 do jogo oficijnogo relizu 17 bereznya 2023 roku Microsoft rozpovila pro plani podalshoyi integraciyi GPT 4 v svoyi produkti anonsuvavshi Microsoft 365 Copilot yakij bude vbudovanij v programi yaki miljoni lyudej vikoristovuyut kozhnogo dnya Word Excel PowerPoint Outlook Teams ta inshi Duolingo integruvali GPT 4 v svij dodatok i dodali dvi novi funkciyi Rolovi igri i Poyasni moyu vidpovid Funkcional poki sho dostupnij lishe dlya tih hto vivchaye francuzku movu chi ispansku z anglijskoyi Dzherela danihDokladnishe ChatGPT Dzherela danih GPT 4 yak i jogo poperedniki vikoristovuye riznomanitni dzherela danih dlya pokrashennya rozuminnya movi ta mozhlivostej stvorennya Prote tochni nabori danih yaki vikoristovuyutsya dlya jogo navchannya ne buli konkretno rozkriti OpenAI cherez mirkuvannya konfidencijnosti Tim ne mensh mozhna zrobiti visnovok z jogo produktivnosti ta zagalnih praktik OpenAI sho jogo navchannya vklyuchalo velikij korpus cifrovogo tekstu PrimitkiSanderson K GPT 4 is here what scientists think Nature M Skipper NPG Springer Science Business Media 2023 ISSN 1476 4687 0028 0836 doi 10 1038 D41586 023 00816 5 d Track Q117210296d Track Q176916d Track Q180419d Track Q52661223d Track Q180445 OpenAI GPT 4 Technical Report 2023 100 p doi 10 48550 ARXIV 2303 08774 arXiv 2303 08774 d Track Q117288271d Track Q21708200 https www makeuseof com gpt models explained and compared GPT 4 openai com 14 bereznya 2023 originalu za 14 bereznya 2023 Procitovano 14 bereznya 2023 GPT 4 Technical Report PDF OpenAI 2023 PDF originalu za 14 bereznya 2023 Procitovano 14 bereznya 2023 Vincent James 18 sichnya 2023 OpenAI CEO Sam Altman on GPT 4 people are begging to be disappointed and they will be The Verge originalu za 26 sichnya 2023 Procitovano 27 sichnya 2023 Kang Cecilia 3 bereznya 2023 As A I Booms Lawmakers Struggle to Understand the Technology The New York Times originalu za 3 bereznya 2023 Procitovano 3 bereznya 2023 GPT 4 OpenAI 14 bereznya 2023 originalu za 14 bereznya 2023 Procitovano 14 bereznya 2023 GPT 4 Developer Livestream Videotape angl OpenAI 14 bereznya 2023 originalu za 14 bereznya 2023 Procitovano 14 bereznya 2023 cherez YouTube Metz Cade 14 bereznya 2023 10 Ways GPT 4 Is Impressive but Still Flawed The New York Times amer Arhiv originalu za 14 bereznya 2023 Procitovano 14 bereznya 2023 Sanderson Katharine 16 bereznya 2023 GPT 4 is here what scientists think Nature angl doi 10 1038 d41586 023 00816 5 Lightning AI CEO slams OpenAI s GPT 4 paper as masquerading as research VentureBeat amer 15 bereznya 2023 Procitovano 18 bereznya 2023 Microsoft s new Bing was using GPT 4 all along techcrunch com 14 bereznya 2023 originalu za 15 bereznya 2023 Procitovano 14 bereznya 2023 Warren Tom 16 bereznya 2023 Microsoft announces Copilot the AI powered future of Office documents The Verge Introducing Duolingo Max a learning experience powered by GPT 4 Duolingo Blog 14 bereznya 2023 GPT 4 9 chervnya 2023 Create an ideal subchapter Data sources for the ideal Wikipedia article GPT 4 eng OpenAI