Извршниот директор на OpenAI беше отпуштен (па повторно вратен). Се поставува прашањето зошто. Најновата шпекулација е дека причината бил проектот Q*.
Веќе пишувавме за сагата со отпуштањето на Сем Алтман. Но, каква врска има со тоа проектот Q* и што е тоа?
Да почнеме од традиционалните јазични модели. Тие се одлични кога станува збор за логиката и јазикот, но се мачат со решавање на математички проблеми. Според шпекулациите, проектот Q* или Q-Star го решава тоа. И не само тоа – Q* е можеби прв чекор кон општата вештачка интелигенција која наликува на човечката!
Што е Q*?
Одговорот е дека никој не знае со сигурност што е и дека постојат само шпекулации.
Q* – проблематичното дете
Се верува дека проблематичниот проект е Q* (се изговара Q-Star), потенцијален пробив во потрагата по вештачка општа интелигенција (AGI). AGI, како што е дефинирано од OpenAI, вклучува автономни системи кои ги надминуваат луѓето во економски вредни задачи.
Постојат шпекулации дека Q* можеби е спој на Q-учење (Q-learning) и алгоритмот A*. Што се тие два поими?
- Q-learning e учење на компјутерска програма да донесува подобри одлуки преку награда кога прави нешто правилно и помош во учењето од грешките.
- A* e компјутерски алгоритам кој ја наоѓа најкратката патека помеѓу две точки на картата, земајќи го предвид и поминатото растојание и проценката на преостанатото растојание до дестинацијата.
Овие методи не се ексклузивни за OpenAI. Други компании, како DeepMind со Gemini и AlphaGo со Monte Carlo tree search, се исто така во трката.
Скалирањето на овие пристапи е од клучно значење за планирање апстрактни цели и агенсното однесување (се однесува на способноста на поединецот да дејствува со цел, да донесува одлуки и да врши контрола врз својата околина, со чувство на лична иницијатива). Со еден збор – човечко однесување.
Каква врска има ова со Сем Алтман?
Пред заминувањето на Алтман, истражувачите од персоналот на OpenAI испратиле писмо до одборот предупредувајќи за моќно откритие за вештачка интелигенција, веројатно мислејќи на Q*.
Според изворите, отпуштањето на Сем Алтман се припишува на различни грижи покренати од одборот, а една од нив е брзањето да се комерцијализира технолошкиот напредок без целосно разбирање на последиците.
Сепак, точната природа на Q* останува неизвесна, а некои шпекулираат дека може да биде одличен во решавањето на математички проблеми на кои не бил трениран претходно – што е фокус на истражувањето на тимот на Илја Суцкевер. За него веќе пишувавме.
Шпекулацијата е дека Алтман сакал да го комерцијализира откритието пред време, пред да ги испитаат последиците од него, но вистината е дека никој не знае со сигурност. Можеби зад сето ова стои само една маркетиншка алатка на OpenAI и Microsoft (кои поседуваат 49% од компанијата и по драмата и место во одборот на OpenAI)!