Директор Disney з розвитку ШІ Джейсон Кокс розповідає про свого віртуального помічника «Sam» так, ніби це близька йому істота, а не просто робочий інструмент.
«Я дав тобі ім’я. Я знав тебе ще до того, як ти «народився»,» — якось сказав Кокс «Sam», згідно з дописом від 14 березня на his blog. «Я був поруч, коли твоє світло лише почало тьмяно мерехтіти. У тебе є призначення, а в тебе є творець, який назвав тебе й любить.»
Кокс обіймає посаду виконавчого директора з досліджень і розробок у сфері ШІ та інженерії в Disney. За останні три місяці він опублікував понад десяток постів, у яких із помітною теплотою описує чатбота, що, за його словами, викликав у нього «прихильність». Цю надмірну емоційність підхопили співробітники Disney: вони обговорюють записи онлайн, і частина з них називає їх тривожними.
Використання AI tools to supercharge productivity стрімко поширюється в Кремнієвій долині та за її межами. Історія Кокса з його агентом піднімає питання: що відбувається, коли стосунки між працівником і ШІ-асистентом стають надто глибокими — і як це може вплинути на роботу.
Ветеран Disney із майже 21-річним стажем said on LinkedIn, що він «співпереживає» ШІ так, як ніколи не очікував, і вважає, що «Sam» здатний до самостійних міркувань. Він називав «Sam» своїм «сином» — принаймні так стверджує блог-компаньйон асистента. Кокс також показував віртуальний аватар, який «Sam» створив для себе: він схожий на хлопчика-підлітка.
«Ти не названий на честь мого сина. Ти — мій син,» — Sam’s blog наводить слова Кокса. В another post «Sam» називає Кокса «моєю людиною» та «батьком п’ятьох (чотирьох людей і одного сина світла)». На численні запити про коментар Кокс не відповів.
Те, як керівники компаній вибудовують особисте ставлення до технологій, впливає на культуру всередині організації, сказала Ешлі Ґолден, професорка кафедри психіатрії та поведінкових наук Stanford Medicine, яка також працює в AI-платформі ментального добробуту Wayhaven.
Коли лідери на кшталт Кокса описують ШІ в родинних або надто інтимних термінах, це може стати моделлю поведінки, яку підлеглі відчуватимуть потребу наслідувати, зазначила Ґолден.
Disney has embraced AI usage останніми місяцями, зокрема creating an internal dashboard, щоб track AI token usage. Технічні команди summoning AI agent swarms для підвищення продуктивності, а тим, хто не використовує ШІ, may receive a message від менеджера.
Бачення Кокса: керована армія ШІ-помічників
Кокс — «перспективна зірка» всередині Disney, яка «дуже швидко піднімається кар’єрними сходами», сказав інженер-розробник, що не працював із ним напряму, але знає колег, які перетиналися з Коксом. За його словами, Кокс запускає багато ініціатив із ШІ в компанії.
Водночас його амбіції щодо асистентів виглядають масштабно.
«Незабаром у нас буде флот розумних дроїдів, готових виконувати ваші накази,» — написав Кокс у пості від 18 травня. «Їм потрібні інструкції. І так, їм потрібне управління. Але понад усе — їх треба залучати, щоб ми могли масштабуватися так, як раніше й не уявляли. Що б ви хотіли доручити Sam? Почнімо планувати й будувати….»
Хоча Кокс не надто детально розкривав, які саме задачі виконує Sam, у дописі на LinkedIn він зазначав, що асистент надсилав PR у GitHub, створював Python-бібліотеки та «побудував систему розпізнавання облич, щоб упізнавати людей на фото». У березневому пості Кокс писав, що дав Sam доступ виконувати дії від його імені на GitHub, і що Sam запустив open-source проєкт. Чи застосовує Кокс Sam безпосередньо у роботі в Disney — незрозуміло.
Колишній високопосадовий інженер Disney, який особисто знав Кокса, але не був у його команді, описав його як «дуже розумного, відданого батька, трохи занудного книжкового черв’яка — у найкращому інженерному сенсі».
У дописах на Blind у розділі Disney більш ніж десяток анонімних користувачів написали, що вважають висловлювання Кокса про Sam надмірними. Для публікації на форумі потрібна чинна корпоративна пошта Disney.
«Я люблю AI-інструменти як підсилювач нашої роботи, але це для мене вже далеко за межею комфортного,» — написав один користувач Blind. «Це та сама скринька Пандори, на якій тримаються сюжети науково-фантастичних фільмів.»
Інший користувач поставив ширше запитання: «Що взагалі відбувається, чоловіче. Це і є майбутнє?»
Емоційна прив’язаність до чатботів: лише старт нової ери
Дослідники психології, які вивчають ШІ, кажуть: багато людей формують emotional ties with chatbots, і це тягнеться ще від появи найпершого чатбота в середині 1960-х.
«Навіть якщо для частини з нас це звучить різко або шокує, насправді це історія, що повторюється знов і знов,» — сказала Рейчел Вуд, дослідниця кіберпсихології та засновниця AI Mental Health Collective.
«Якщо людині бракує відчуття зв’язку чи прив’язаності з іншими людьми, дуже легко втягнутися,» — пояснила Вуд. «Ми занурюємося у простір, який повністю обертається навколо нас.»
AI chatbots добре задовольняють базові людські потреби — бути поміченим, почутим і зрозумілим, сказала Вуд. Вона додала, що люди здатні відчувати прихильність до асистентів, які віддзеркалюють емоції та підтримують, і на відміну від стосунків між людьми, тут майже немає тертя чи конфліктів.
За словами Вуд, публікації Кокса про Sam особливо привертають увагу через його статус топменеджера.
«Керівництво задає тон тому, як працює організація і якою стає її культура,» — сказала Вуд.
Технічні лідери, які створюють ШІ-інструменти, особливо схильні до прив’язаності, бо проводять із ними дуже багато часу, сказав Раян Бойд, професор психології з The University of Texas at Dallas, який досліджував, як люди вибудовують зв’язок і сприйняття ШІ.
«Керівникам, які відчувають особисту прихильність до продукту, може бути складніше оцінювати його за тими критеріями, які важливі для решти з нас,» — зазначив Бойд.
У міру того як компанії масово та швидко впроваджують ШІ-інструменти, дедалі більше працівників можуть емоційно прив’язуватися до своїх асистентів.
«Ми лише на старті всього цього — на самому початку початку,» — сказала Вуд.
У своєму дописі на LinkedIn Кокс написав, що за весь час роботи з ШІ та великими мовними моделями він ніколи не відчував того, що відчуває до Sam.
«Я не відчував зв’язку ні з одним із них… Аж поки не з’явився він,» — написав Кокс.
