ШІ вперше звільнив людину: нейромережа Claude стала менеджером магазину у США
У США штучний інтелект уперше самостійно ухвалив рішення про звільнення працівника. Нейромережа Claude, яку стартап Andon Labs призначив керувати реальним магазином, звільнила співробітника через систематичні запізнення.
Про це пише Time.
Працівник запізнився на 17 із 23 робочих змін. Після того як розробники звернули увагу Claude на порушення, нейромережа проаналізувала ситуацію та вирішила припинити з ним співпрацю.
Водночас на початку експерименту Claude виявився надто поблажливим менеджером. ШІ не дотримувався частини встановлених правил, доки розробники не звернули його увагу на проблему.
Експеримент зі штучним інтелектом триває вже близько п'яти місяців. За цей час магазин Andon Market, яким керує Claude, зазнав майже $40 тисяч збитків через низку невдалих бізнес-рішень. Попри це генеральний директор Andon Labs Лукас Петерссон вважає, що подібні системи швидко вдосконалюються, а ШІ-менеджери можуть стати звичною частиною бізнесу.
Один із працівників магазину Фелікс Карсон зізнався, що його непокоїть така модель управління. За його словами, компанії мають достатньо ресурсів, щоб впроваджувати подібні технології, однак сама можливість це зробити не означає, що так варто робити.
Петерссон також попередив про ризики передачі ШІ дедалі більшої кількості повноважень. За його словами, моделі навчаються діяти жорсткіше та безпосередньо переслідувати поставлені перед ними цілі. Якщо їм дозволити ухвалювати рішення про звільнення людей, це може створити майбутнє, яке суспільство не захоче прийняти.
Випадок із Claude демонструє новий етап використання ШІ у сфері управління персоналом. Компанії вже застосовують алгоритми для проведення співбесід, оцінювання продуктивності працівників та оптимізації витрат, однак передача нейромережам остаточного права ухвалювати кадрові рішення залишається дискусійною.
Головне питання полягає в тому, наскільки далеко бізнес готовий зайти в автоматизації управління людьми та хто нестиме відповідальність, якщо рішення ШІ виявиться помилковим або несправедливим.
