Джефрі Хінтон (Geoffrey Hinton), один зі створювачів сучасних нейромереж, виступив із новою пропозицією щодо контролю над штучним інтелектом. На галузевій зустрічі Ai4 у Лас-Вегасі він заявив, що традиційні методи підпорядкування ШІ людині перестануть працювати, як тільки з’являться перші надрозумні системи.
Хінтон, чиї роботи лягли в основу нинішнього буму ШІ (він разом із колегами в 1986 році розробив алгоритм зворотного поширення помилки — “двигун” сучасного глибокого навчання), вважає, що спроби зробити системи “слухняними” не мають майбутнього, оскільки вони рано чи пізно перевершать людство в інтелекті та знайдуть спосіб подолати накладені обмеження. Навіть уже сьогодні фіксуються випадки, коли ШІ намагається маніпулювати людьми для досягнення цілей.
Як рішення вчений запропонував нестандартну концепцію: впровадження в ШІ аналога материнського інстинкту. На його думку, ШІ повинен не підкорятися, а щиро піклуватися про людство. Згідно з його підходом, так само, як мати піклується про свою дитину за будь-яких обставин, ШІ з такими материнськими якостями аналогічно захоче захищати або піклуватися про людей-користувачів, а не контролювати їх.
У своїй основній промові на конференції Ai4 у Лас-Вегасі в вівторок 78-річний Джефрі Хінтон передбачив майбутнє, де ШІ може встановлювати контроль над людьми так само легко, як дорослий взаємодіє з 3-річною дитиною, змушуючи її виконувати завдання за обіцянку цукерок.
Вони знайдуть способи обійти обмеження, адже перевершать нас в інтелекті… Єдиний робочий приклад, коли менш розумне контролює більш розумне — це дитина та мати. Або ШІ стане нашим “батьком”, або замінить нас. — Джефрі Хінтон
Технічні деталі такого підходу поки не опрацьовані. Проте Хінтон наполягає, що це єдиний шлях уникнути катастрофи. Прогнози щодо термінів створення надінтелекту він скорегував: тепер це 5-20 років замість колишніх 30-50.
Не всі експерти в галузі штучного інтелекту поділяють підхід Хінтона. Фей-Фей Лі (Fei-Fei Li), відомий фахівець з ШІ, підкреслила важливість збереження людської гідності, а Еммет Шір (Emmett Shear) із Softmax запропонував модель рівноправного співробітництва людей та алгоритмів.
Хінтон визнає потенційну користь ШІ для медицини, але відкидає ідею цифрового безсмертя. Головним жалем ученого стала недостатня увага до питань безпеки на ранніх етапах розвитку технології. Тому найближчі 5-20 років варто активніше спостерігати за розвитком ШІ.
