OpenAI предупреди за откритието на AI, който може да застраши човечеството

Деня преди изгнание Главният изпълнителен директор на OpenAI Сам Алтман, няколко от изследователите на компанията писаха до борда на директорите писмо с предупреждение за откриването на мощен изкуствен интелект, който според тях „може да застраши на човечеството." За това с позоваване на наши собствени източници пише Ройтерс.

Именно това писмо беше цитирано като един от факторите в дългия списък от оплаквания от борда на директорите, довели до уволнението на Алтман. Ройтерс не успя да разговаря лично с авторите или да получи коментар от OpenAI. Въпреки това, след такова искане, компанията във вътрешно съобщение до служителите обяви съществуването на определен проект, наречен Q* (произнася се Q-Star).

Някои служители на OpenAI смятат, че Q* може да бъде пробив в т.нар общ изкуствен интелект (AGI). OpenAI го характеризира като автономна система, която превъзхожда хората при повечето икономически ценни задачи.

Досега Q* може да изпълнява само математически задачи на елементарно ниво, според един източник. училища, но успешното завършване на такива тестове дава на изследователите голям оптимизъм относно перспективите за него развитие.

Основната разлика между такъв AI е, че той е в състояние да поставя цели, да разделя сложните проблеми на малки, да работи в широк кръг от проблеми и да намира решения, като взема предвид контекста от различни области. Просто казано, подобна интелигентност на теория може да замени висококвалифициран специалист със знания, умения и богат опит.

Изследователите вярват, че математиката е най-новото в генеративния AI. В днешно време той е добър в писането и превода, статистически прогнозира следващата дума и отговорите на един и същ въпрос могат да варират значително. Но завладяването на математиката (където има само един верен отговор) предполага, че AI ще има по-широки способности за разсъждение, които приличат на човешкия интелект. Това може да се приложи например при нови научни изследвания, смятат експертите.

В писмото си до борда на директорите изследователите отбелязват силата на ИИ и потенциалните опасности. Те също така отбелязаха работата на специална група от „учени в областта на изкуствения интелект“, чието съществуване беше потвърдено от множество източници. Екипът проучва как да оптимизира съществуващите AI модели, за да подобри своите разсъждения и в крайна сметка да извърши научна работа с тях, каза един от хората.

Алтман ръководи усилията да направи ChatGPT едно от най-бързо развиващите се софтуерни приложения в история и привлече инвестициите и изчислителните ресурси от Microsoft, необходими за реализирането на такива AGI. И малко преди уволнението си, на срещата на върха на световните лидери в Сан Франциско, той обяви някои „сериозни постижения, които са точно зад ъгъла“.

Ден по-късно бордът уволни Алтман.

Може би един ден всички тези решения и събития ще формират основата на книга, цял филм или дори учебник по история.