Точно за това доста обсъждах напоследък - наистина за съжаление големите играчи в AI в момента не инвестират достатъчно в alignment. Определено отделят някакво внимание, но реално много повече време и пари се отделят на самото развитие на моделите, което независимо от това дали ни се иска или не, започва да става експоненциално. А истината е, че сега е моментът наистина да се помисли в тази насока много сериозно, преди да сме достигнали фаза в която вече е отвъд капацитета ни да предвидим приблизително безкрайният брой потенциално критични за органичните форми на живот мискалкулации, които изкуственият интелект може да направи в опитите си да ни помогне и по погрешка да ни заличи. Само че всички се сблъскват с фундаменталния проблем на AI (или поне сегашното ни разбиране за AI и моделите, с които разполагаме), че не можеш просто ей така да го научиш на някакви етични положения, кое е приемливо и кое не (камо ли добро или не) - можеш единствено да му задаваш тенденциозно подбрани бази данни и да се надяваш, че ще си извлече правилните изводи. Което както виждаме дори не успяват да накарат дори
GPT 4 да не е расист, какво остава да му се предадат някакви по-сложни и нееднозначни аспекти на
the human experience - като например това какво прави хората щастливи и че това не е непременно "фентанил"
Или това че оптималното усвояване на ресурси и пространство не трябва да е за сметката на околната среда - позитивното е, че поне може да се фийдне наскоро пуснатия над 1000 страници доклад с всички най-малки детайли относно промените в климата и човешкото влияние в тая насока. Ценна информация, която ще е добре да се взима предвид от всички бъдещи поколения изкуствен интелект, защото ще става само по-критично да не се допускат мискалкулации в тая насока (особено предвид че пиша това под морското равнище
)
Цялото отдаване на все повече автономност на изкуствения интелект, както и възможността му да "съществъва" не само когато го активираш задавайки му въпрос, са все неща които трябва да се правят изключително постепенно и с мисъл за alignment strategies. Щото ако нещата се изпуснат стигаме до момент в който ще ни е необходим AGI за да се опитаме да предвидим any and all of the close to infinite world-ending eventualities, които могат да произтекат от излязъл напълно от контрола ни саморепликиращ се AGI.
), сега дори ще ми е по-удобно. 
