
„Опен-АИ“: Учтивоста на „Чет-ГПТ“ чини „милиони долари“ оперативни трошоци
Секоја порака, без разлика колку е тривијална или бесмислена, бара од ВИ-моделот да генерира целосен одговор во реално време, за што се потпира на моќни компјутерски системи, што го зголемува целокупното компјутерско оптоварување. Тоа пак, бара огромна количина електрична енергија.
Извршниот директор на „Опен-АИ“ (OpenAI), Сем Алтман откри дека учтивоста кон „Чет-ГПТ“ (ChatGPT), којашто ги вклучува зборовите „ве молам“, „благодарам“ и сл., ја чини компанијата – „десетици милиони долари“ оперативни трошоци.
Алтман одговори на прашање на корисник на „Икс“ за тоа: колку компанијата потрошила за струја поради тоа што луѓето се „учтиви“ со ВИ-модели? „Десетици милиони долари добро потрошени – никогаш не се знае“, одговори Алтман.
Според стручњаците, најверојатно, четботот ќе ја возврати учтивоста, ако корисникот му се обраќа на тој начин. Слично како во предвидувачкиот научнофантастичен филм „Вселенска одисеја 2001“ од 1960-тите.
Судејќи според шеговитиот тон на Алтман, бројката од неколку десетици милиони долари веројатно не е точна. Но, како и да е, секоја порака, без разлика колку е тривијална или бесмислена, бара од ВИ-моделот да генерира целосен одговор во реално време, за што се потпира на моќни компјутерски системи, што го зголемува целокупното компјутерско оптоварување. Тоа, пак, бара огромна количина електрична енергија.
Моделите со вештачка интелигенција во голема мера се потпираат на енергијата складирана во глобалните центри за податоци, коишто веќе трошат околу 2 отсто од вкупната електрична енергија во светот. Според аналитичката компанија „Голдман Сакс“ (Goldman Sachs), секое прашање до моделот „ГПТ-4“ троши околу 10 пати повеќе електрична енергија од стандардното пребарување на „Гугл“.
Дополнително, љубезните одговори ја зголемуваат и сметката за вода на „Опен-АИ“. ВИ користи вода за ладење на серверите коишто ги генерираат податоците. Истражување на Универзитетот „Риверсајд“ во Калифорнија покажува дека генерирањето на 100 зборови со помош на „ГПТ-4“ користи еквивалент на три шишиња вода, додека дури и најкраткиот одговор, како „Добредојдовте“, користи околу 44 мл. вода.