Nathan Posner/Anadolu via Getty Images
- Генеральний директор OpenAI Сем Альтман заявив, що сила ШІ може зосередитися в руках кількох гравців.
- Альтман попередив, що страхи щодо безпеки ШІ здатні підштовхнути суспільство обміняти свободу на “захист”.
- На його думку, ШІ має, навпаки, посилювати можливості людей і запускати бум малого бізнесу.
Генеральний директор OpenAI Sam Altman каже, що його непокоїть сценарій, за якого ШІ зрештою опиниться під контролем лише кількох компаній, моделей або окремих осіб, а більшість користувачів втратить можливість впливати на те, як технологія змінює світ.
«Правильний шлях — це наполягати на тому, щоб люди по-справжньому керували майбутнім», — сказав Альтман Девіду Сенрі в «Founders Podcast», епізод якого вийшов у неділю. «Суспільство і моделі будуть співеволюціонувати».
Ще один варіант, який, за словами Альтмана, викликає в нього тривогу, — це вихід ШІ з-під людського контролю. Водночас він зазначив, що страх перед таким розвитком подій парадоксально може сприяти реалізації іншого ризику — надмірній концентрації влади над ШІ.
«Є багато людей, які настільки нервують через масштаб цих ризиків і настільки цим захоплюються, що відчувають потребу “захистити світ”», — сказав він. «Мовляв, “нам варто пожертвувати значною частиною свободи заради безпеки”».
Найімовірніше, Альтман мав на увазі CEO Anthropic Dario Amodei.
Амодей неодноразово попереджав — у подкастах, есе та дописах у блозі компанії — про загрози, пов’язані зі стрімким розвитком ШІ. У червневому есе Амодей написав, що нові new Mythos models компанії несуть «дуже реальні ризики» для кібербезпеки, фінансового сектору, критичної інфраструктури та національної безпеки.
Ці застереження Амодей використовував як аргумент на користь більшої ролі держави в регулюванні ШІ. З точки зору Альтмана, такий підхід може означати торг свободою заради безпеки.
Крім того, минулого місяця Anthropic була єдиною великою ШІ-компанією, яка не підписала лист на підтримку open-weight моделей — підходу, що дозволяє розробникам ділитися, завантажувати, змінювати та розгортати моделі на власній інфраструктурі.
Китай, своєю чергою, підтримав формат open-weight, що дало йому змогу не відставати від Кремнієвої долини, витрачаючи на це лише частину коштів. Деякі учасники ринку в США, включно з Nvidia, Meta та Microsoft, наголошують, що Америці потрібно діяти так само, інакше вона ризикує поступитися позиціями супернику в гонці ШІ.
OpenAI, хоча й не публікувала вихідний код своїх найпотужніших моделей, торік випустила дві open-weight models — gpt-oss-120b і gpt-oss-20b.
Під час подкасту Альтман також сказав, що лідери ШІ у США поки що не змогли переконливо показати суспільству, як ця технологія може надати людям більше самостійності в повсякденному житті.
«Ми стоїмо на порозі найбільшого буму запуску малого бізнесу, який ми коли-небудь бачили», — сказав він. «Я вважаю, що ШІ допомагає цьому статися».
