Штучны інтэлект даўно перастаў быць элементам фантастыкі. Сёння ім карыстаюцца не толькі навукоўцы, але і школьнікі малодшых класаў. Ён пайшоў у народ: дапамагае пісаць тэксты і песні, рабіць разлікі, планаваць паездкі і нават ставіць дыягназы. Што ж, на дварэ — XXІ стагоддзе, лічбавыя тэхналогіі ўсё глыбей пранікаюць ва ўсе сферы — ад прамысловасці да адукацыі. Аднак важна не проста ісці ў нагу з часам, але, дэлегаваўшы пэўныя паўнамоцтвы штучнаму інтэлекту, не развучыцца думаць сваёй галавой, не страціць уласныя каштоўнасці. Аб гэтым мы і пагаварылі са старшым навуковым супрацоўнікам лабараторыі Інстытута тэхнічнай кібернетыкі НАН Беларусі Дзмітрыем ЛЯХАВЫМ.

Нячыстая манета

— Дзмітрый, прыхільнікаў выкарыстання штучнага інтэлекту ўсё больш, аднак не ўсе ведаюць, адкуль што ўвогуле бярэцца. Увёў запыт у сістэму — і наперад! Але часта вынік — далёка не ісціна ў апошняй інстанцыі. Калі ШІ такі разумны, чаму ж ён памыляецца?

— Унутры сістэмы — вельмі вялікая моўная мадэль, каля сотні мільярдаў, а то і трыльёны параметраў. Яна выкарыстоўвае пошук па інтэрнэце, сама не ведаючы ўсё пра гэты свет, і стараецца знайсці падобную тэму. У выніку дае дастаткова праўдападобны адказ, заснаваны на іншых прыкладах. І вам будзе здавацца, што гэта праўда. Канкрэтныя моманты могуць быць недакладнымі, і калі вы самі не разбіраецеся ў тэме, то гэтага не заўважыце.

— А вы самі выкарыстоўваеце штучны інтэлект?

— Я часта звяртаюся да яго для вырашэння розных бытавых задач ці калі ўзнікае нейкая праблема, напрыклад, стаматалагічнага характару. Адзін варыянт — пайсці да ўрача, і гэта правільна. Другі варыянт — з тым жа пытаннем звярнуцца да штучнага інтэлекту. Але, калі вы будзеце пытацца толькі ў штучнага інтэлекту, магчыма, упусціце нейкія тонкасці, якія можа ўбачыць урач. У выніку кардынальна скажоную інфармацыю можна прыняць за чыстую манету.

ШІ на вас не зашыпіць

— Як захоўваць крытычнае мысленне, калі машына ўсё сцвярджае так пераканаўча?

— Па-першае, не варта на сто працэнтаў давяраць яе адказам. Па-другое — лепш за ўсё, калі ў вас ёсць уласная экспертыза. Такія флагманскія мадэлі, як Gemіnі, ChatGPT, Claude, DeepSeek, трэніраваліся такім чынам, што ўвесь час стараюцца вам дагадзіць, падтакваюць. І тут можа хавацца небяспечная ідэя.

Зараз шмат выпадкаў, як падлеткаў проста вядуць па нейкім ілжывым шляху. Не раю выкарыстоўваць гэтыя мадэлі ў якасці псіхалагічных парад — у гэтай штукі няма эмоцый. Яна проста генерыруе токен за токенам.

Таму, на мой погляд, самая вялікая праблема, калі штучны інтэлект выкарыстоўваюць дзеці і падлеткі. Яны не маюць жыццёвага досведу і не могуць зразумець, што правільна, а што не.

Яшчэ адна праблема: школьнікі замест таго, каб вучыцца, пачынаюць занадта рана карыстацца чат-ботамі.

— Якое выйсце? Забраць у дзяцей тэлефон, забараніць ім карыстацца штучным інтэлектам?

— Я б не забараняў дзецям цалкам карыстацца ім. Такі памочнік у нейкі момант можа сапраўды быць карысным. Напрыклад, у сітуацыі, калі няма побач бацькоў. У плане добрай парады гэта лепш, чым наогул нічога не мець. Але, калі школьнік просіць ШІ рашыць за яго задачу па матэматыцы і проста запісвае прапанаваны варыянт у сшытак — гэта дрэнна.

Прагрэс немагчыма спыніць, але...

— Што параіце бацькам?

— Навучаць дзяцей крытычнаму мысленню, уключаць сваю галаву перш за ўсё. ШІ будзе з намі ўвесь час, як электрычнасць. Прагрэс немагчыма спыніць. І ў прынцыпе гэта вельмі карысная рэч, якая акумулявала вопыт практычна ўсяго чалавецтва. Аднак трэба навучыцца правільна карыстацца ёю.

— Як не стаць ахвярай штучнага інтэлекту?

— Неабходна разумець: калі гэтыя тэхналогіі так добра развітыя, нельга давяраць проста карцінцы, відэа ці аўдыёзвароту. Трэба праверыць інфармацыю з дапамогай надзейных крыніц, параіцца з людзьмі, якім давяраеш. Не варта дзяліцца канфідэнцыяльнай інфармацыяй, смс-кодамі, паролямі, рэквізітамі банкаўскіх карт і гэтак далей. Магчыма, усе вашы сакрэты збіраюцца ў пэўны банк даных.

На айчынных магутнасцях

— А ў Беларусі мы можам стварыць нешта сваё ў плане штучнага інтэлекту?

— Інстытут тэхнічнай кібернетыкі Нацыянальнай акадэміі навук плануе разгортваць мадэлі на сваіх магутнасцях, у закрытым контуры, для беларускіх прадпрыемстваў. Мы выкарыстоўваем флагманскія мадэлі, але працуем над тым, каб нашы прадпрыемствы маглі разгортваць унутраныя мадэлі, якія шукаюць інфармацыю ў карпаратыўных базах даных. Гэта робіцца для таго, каб на беларускіх прадпрыемствах карысталіся мадэлямі бяспечна, без выхаду ў інтэрнэт. Такім чынам, карпаратыўныя даныя, якія з’яўляюцца стратэгічнай інфармацыяй, не будуць «скормлівацца» ў ChatGPT, Gemіnі і г. д.

5 простых правіл

1. Штучны інтэлект не хоча вас падмануць. Ён проста генерыруе праўдападобны тэкст. Не ўспрымайце яго як ісціну ў апошняй інстанцыі, уключайце крытычнае мысленне.
2. Правярайце тое, што можна праверыць.
3. У сенсітыўных пытаннях — спытайце ў машыны і схадзіце да спецыяліста.
4. Не «злівайце» асабістыя даныя, адрасы, нумары карт, сакрэтную інфармацыю — толькі ўласная галава і ўласныя серверы.
5. Вучыцеся самі і вучыце дзяцей крытычнаму мысленню. ШІ будзе з намі заўсёды. Але ўключаць галаву — па-ранейшаму задача чалавека.

Надзея ЗУЕВА