Використання ШІ в уряді Великобританії: чому не варто дякувати алгоритмам?

Чому уряд Великобританії закликає не дякувати ШІ?

Основною причиною, чому державним службовцям радять уникати ввічливості у спілкуванні з алгоритмами, є прагнення підвищити енергоефективність та зменшити екологічний вплив. Згідно з проєктом настанов, використання надлишкових слів у запитах (промптах) збільшує навантаження на системи, що є надзвичайно дорогим та шкідливим для планети процесом.

Замість того, щоб витрачати ресурси на підтримання соціальних ритуалів, уряд пропонує дотримуватися принципу максимальної стислості. Це частина ширшої стратегії щодо раціонального використання технологій, де кожен зайвий токен у запиті перетворюється на реальні витрати електроенергії та фінансів. Настанови, які наразі є чернеткою, слугують відправною точкою для підтримки «шляху використання ШІ» в державному секторі, наголошуючи на тому, що технологія не є живою чи свідомою істотою.

Екологічний аспект та енергоспоживання

Кожен запит до великої мовної моделі (LLM) потребує значних обчислювальних потужностей у дата-центрах. Коли тисячі державних службовців додають до своїх запитів фрази на кшталт «Будь ласка, допоможи мені» або «Дякую за допомогу», це створює сумарне зростання енергоспоживання, яке можна було б уникнути. Уряд підкреслює, що тримання промптів короткими, чіткими та прямими є не лише питанням економії бюджету, а й етичним обов'язком щодо збереження довкілля.

Одним із ключових правил ефективності є використання якомога меншої кількості промптів та застосування ШІ лише тоді, коли це дійсно необхідно. Це дозволяє мінімізувати загальний екологічний слід, який створюють масові обчислювальні процеси. Уряд прямо вказує: щоб зменшити вплив на довкілля, потрібно уникати зайвої «соціальності» з машиною. Це не просто порада щодо манер, а інструмент управління ресурсами в умовах глобальних екологічних викликів. Використання ШІ лише за потреби та мінімізація кількості взаємодій допомагають зменшити навантаження на інфраструктуру, що є критично важливим для сталого розвитку.

Як етичне використання ШІ впливає на роботу держслужбовців?

Настанови, які наразі є чернеткою, слугують відправною точкою для формування культури роботи з ШІ в державному секторі. Окрім питання ввічливості, документ зосереджується на критичному аналізі результатів роботи алгоритмів та забезпеченні їхньої точності й неупередженості. Державні працівники повинні ретельно перевіряти будь-яку інформацію, отриману від ШІ, щоб переконатися, що вона є правильною та не містить прихованих упереджень.

Важливо розуміти, що ШІ не є суб'єктом, який несе відповідальність; він є інструментом, що потребує постійного людського нагляду. Крім того, настанову застерігають від введення будь-яких вхідних даних, які користувач не хоче бачити частиною навчальних наборів. Оскільки дані з високою ймовірністю будуть використані для навчання моделей, це створює серйозні ризики для конфіденційності державної та особистої інформації. Користувач повинен діяти обережно, усвідомлюючи, що вхідні дані стають частиною інтелектуального капіталу розробників. Це вимагає від держслужбовців високого рівня цифрової грамотності та розуміння механізмів роботи сучасних нейромереж.

Відповідальність за результати роботи

Одним із найважливіших аспектів є юридична та професійна відповідальність. У документах чітко зазначено: ви володієте роботою і несете за неї відповідальність. Хоча багатомільярдні ШІ-компанії можуть намагатися перекласти провину на «непередбачуваних агентів» або помилки алгоритму, кар'єрні державні службовці не мають такого права на виправдання.

Якщо ШІ генерує помилкову, неточну або шкідливу інформацію, відповідальність за її використання та поширення несе саме людина. Це створює важливий прецедент: технологія може бути складною, але людський нагляд є обов'язковим елементом професійної етики. Користувач не може сховатися за складністю алгоритму, якщо результат його роботи виявиться помилковим. Це нагадування про те, що ШІ — це лише допоміжний засіб, а не заміна професійної експертизи. Відсутність «права на помилку» через використання ШІ змушує працівників бути більш прискіпливими до кожного згенерованого тексту чи розрахунку.

Які ризики несе антропоморфізм у роботі з ШІ?

Хоча уряд зосередився на ефективності, існує й інший аспект — психологічний. Визнання небезпеки антропоморфізму (надання машинам людських якостей) є важливим для розуміння того, як ми взаємодіємо з технологіями. Коли користувачі починають ставитися до чат-ботів як до живих істот, це може призвести до серйозних психологічних наслідків та викривленого сприйняття реальності.

Хоча в урядових настановах питання ввічливості віднесено до категорії «ефективності», багато хто вважає, що розпізнавання небезпеки антропоморфізму є ще вагомішою причиною не бути «ввічливим» з машинами. Підтримання ілюзії того, що ШІ є соціальним партнером, може розмивати межу між реальним взаємодінням та алгоритмічною симуляцією. Розуміння того, що ШІ не є свідомим, допомагає зберігати об'єктивність та професійну дистанцію, запобігаючи емоційній залежності від інструментів. Це допомагає уникнути хибного відчуття довіри до алгоритму, який може помилятися, але робити це з абсолютно «впевненим» тоном.

Економічна доцільність: від підписок до оплати за токени

Зміна ставлення до ШІ в державному секторі також продиктована економічними реаліями. Ринок ШІ переживає трансформацію: якщо раніше домінували моделі з фіксованою вартістю підписки, то зараз компанії все частіше переходять на моделі оплати за кількість використаних токенів. Коли витрати на ШІ зростають, а доходи не завжди встигають за ними, компанії починають шукати шляхи економії.

Це робить «ввічливе» спілкування з ШІ фактично дорогим. Кожне зайве слово в запиті підвищує вартість виконання завдання через модель оплати за токени. У цьому контексті рекомендація уряду використовувати ШІ лише тоді, коли це дійсно необхідно, та розглядати простіші інструменти (наприклад, таблиці або пошукові системи), стає не просто порадою, а необхідним елементом фінансової дисципліни. Замість того, щоб «максимізувати токени», держава прагне оптимізувати витрати, уникаючи ситуації, коли технологія стає занадто дорогою для бюджету. Це перехід від безконтрольного тестування технологій до суворого економічного розрахунку кожного запиту.

FAQ: Поширені запитання про використання ШІ в уряді

Чи обов'язково бути грубим з ШІ?

Ні, мова не йде про агресію. Рекомендація полягає в тому, щоб бути прямим та лаконічним. Використання ввічливих форм не є обов'язковим і навіть небажаним, якщо це призводить до збільшення обсягу тексту та витрат ресурсів.

Чому ШІ вважається шкідливим для екології?

Обчислювальні процеси, необхідні для роботи великих мовних моделей, споживають величезну кількість електроенергії. Кожен зайвий токен у запиті збільшує енергоспоживання, що має сумарний негативний вплив на довкілля.

Чи можу я використовувати ШІ для роботи з секретними даними?

Настанову наполегливо рекомендують не вводити дані, які ви не хочете бачити частиною навчальних наборів. Більшість систем використовують вхідну інформацію для навчання, що створює ризики для конфіденційності.

Що робити, якщо ШІ надає невірну відповідь?

Ви повинні ретельно перевірити інформацію на предмет точності та відсутності упередженості. Відповідальність за кінцевий результат завжди лежить на людині, а не на розробнику алгоритму.

Чи замінить ШІ звичайні інструменти на кшталт Excel?

Уряд радить спочатку оцінити, чи не підійде для завдання простіший інструмент. Для багатьох завдань традиційні таблиці або пошукові системи є ефективнішими та дешевшими, ніж ШІ.