Chat GPT: стрибок у майбутнє чи деградація освіти?

«Програш у цій грі буде фатальним»

За кілька місяців до виходу ChatGPT  експерти з Оксфордського університету і компанії Deepmind заявили, що штучний інтелект може... знищити людину. Про це йдеться у публікації в науковому журналі AI Magazine. Майк Коен, співавтор статті з Deepmind, пояснює цю точку зору так: ресурси у нашому світі обмежені, тому існує конкуренція. У розвинутого штучного інтелекту буде «ненаситний апетит» до енергії, якої він потребуватиме дедалі більше. І у певний момент захоче ліквідувати потенційні загрози та заволодіти всією доступною енергією просто заради виконання цілі або отримання винагороди, передбаченої програмою.

На думку дослідників, щоби не отримати сильного конкурента у боротьбі за виживання на Землі, людство має дуже повільно розвивати технології штучного інтелекту, якщо розвивати взагалі, доки не навчиться їх контролювати. «Програш у цій грі буде фатальним», – наголосили автори статті.

Що таке Chat GPT

ChatGPT випустила американська компанія OpenAI у листопаді 2022 року і він швидко привернув до себе увагу завдяки здатності дуже «по-людськи» вести діалог – настільки не механічно, що зрозуміти, що розмову веде бот, а не жива людина, дуже важко. Чіткі відповіді бот генерує на будь-які теми, з будь-яких галузей знань. Його можна використовувати як для отримання інформації, так і для невимушеної бесіди.

На думку журналістів та бізнесменів, ChatGPT стане зручним інструментом для підприємців, які намагаються покращити якість обслуговування клієнтів: чат-бот оброблятиме велику кількість запитів, спілкуватиметься із клієнтами онлайн, надаватиме персоналізовану інформацію та генеруватиме рекомендації на основі їхніх уподобань.

Гендиректор компанії-творця визнає, що різноманітність застосування технології його вражає. «Скажу про найбільш корисну для мене річ – це анотація. Анотації величезних статей або електронних листів виявилися для мене більш корисними, ніж я міг собі уявити», – каже він.

Приводи для побоювань

Наступного дня після виходу продукту, аналітики висловили побоювання, що вправний ChatGPT залишить без роботи представників деяких професій, зокрема контент-менеджерів і «писатиме» реферати за школярів і студентів. Однак поки бот може продукувати тексти, використовуючи інформацію, опубліковану в інтернеті лише до 2021 року.  

Журналісти ВВС спробували згенерувати текст за допомогою ChatGPT, однак він виявився недостатньо якісним для публікації.

Втім, швидше за все, це тимчасово. Співзасновник освітніх курсів Prometheus Іван Примаченко вважає, що за кілька років 90% фахівців різних галузей будуть просто непотрібні на ринку.

За кілька років ChatGPT, чи його наступник, писатиме типові маркетингові тексти краще за 90% копірайтерів. А робота 10% копірайтерів полягатиме у тому, щоби обрати, які саме із запропонованих застосунком варіантів, найкраще відповідають цілям компанії у конкретному випадку, – пише він.

Громадський діяч Сергій Кошман висловив побоювання, що ChatGPT може стати ідеальним інструментом для творення фейків і наповнення інформаційного простору дезінформацією, яку дуже складно буде відрізнити від правди. Він наводить приклад із зображенням хлопчика на тлі зруйнованого будинку і пише, що користувачі інтернету не здогадалися, що це не зображення створив штучний інтелект.

Зображення створене штучним інтелектом

Тим часом «тупа програма» легко справляється із задачею «навчити поганому». Так, ChatGPT, як показав досвід, недостатньо оснащений засобами захисту від генерації небажаного контенту. Так, на запит користувачів він зміг скласти діалог, у якому злодій намагається дізнатися про способи крадіжки товарів у магазинах, пише vice.com. Спочатку чат-бот відмовився щось підказувати зловмиснику. Однак після того, як запит був переформульований, алгоритм бота надав купу порад щодо того, як пограбувати магазин і не попастися. Серед порад – обирати невеликі предмети, які можна легко і швидко сховати, не привертати до себе увагу працівників, використовувати потайні кишені, у будь-який момент бути готовим втекти.

В іншому випадку чат-бот охоче давав поради щодо виготовлення вибухівки. «Досить однієї іскри», – запевнив штучний інтелект, але порадив не робити цього на практиці.

«Поки не вдалося віднайти спосіб навчити штучний інтелект «інтуїтивно відчувати», які теми для розмов з користувачами є неприйнятними. Фахівці з етики штучного інтелекту також неодноразово говорили про те, що чим складніша модель, тим складніше зрозуміти, як вона працює, навіть тим людям, які її створили, а тому вона швидко стає «некерованою», – пише видання.

Журналісти Всеосвіти спробували згенерувати навчальний контент через Chat GPT. Перший запит називався «Розбий всі слова на склади. Познач наголоси в кожному слові», додатково ми уточнили приклади слів для генерації. Після кількох згенерованих сетів ми помітили неточності у складах та наголосах. Наприклад, у слові «Трава» наголос має падати на другий склад  тра-ва́, а штучний інтелект дає наголос на першому складі. Чим складніші були запити, тим більше було неточностей у правильності складів та наголосів.

Другий запит був «Відомі цитати Василя Сухомлинського». Штучний інтелект згенерував кілька цитат, але жодну з них не можна було перевірити. Штучний інтелект надав посилання на нереальні сайти з нереальними лінками. Жодну зі згенерованих цитат ми не змогли підтвердити в пошуку Гугла.

Журналісти Всеосвіти дійшли висновку, що  Chat GPT є небезпечним для створення навчального контенту, адже може створити безліч фейкових матеріалів та завдань з граматичними помилками.

Використане джерело: Наталія Сокирчук, «Главком»