ChatGPT, чат-бот с искусственным интеллектом Опции Поделиться

[neo169]

ChatGPT

ChatGPT — это чат-бот, который способен вести диалог, искать ошибки в коде, сочинять стихи, писать сценарии и даже спорить.

ChatGPT создавали на суперкомпьютере Azure AI на основе языковой модели GPT-3,5 от OpenAI. Чат-бот обучали с помощью массива текстов из интернета и системы обучения с подкреплением на основе обратной связи с человеком Reinforcement Learning from Human Feedback. Затем нейросеть переобучали несколько раз, используя ее собственные ответы, чтобы сделать их более точными и корректными. Разработчики заявили, что они стремились сделать ИИ простым в использовании, корректным и «человечным».

Как отмечают аналитики Bloomberg, ChatGPT отличается от других нейросетей способностью выполнять задания из разных областей. Нейросеть может, помимо прочего, выдавать базовый программный код, генерировать финансовый анализ, резюме технических статей или научных концепций, прогнозы, персональные советы и этичные ответы на любые вопросы. Кроме того, она запоминает детали диалога с пользователем и избегает спорных тем. Наконец, ответы чат-бота можно корректировать с помощью наводящих вопросов.

В будущем OpenAI планирует сделать ChatGPT доступным в виде интерфейса прикладного программирования, чтобы разработчики могли внедрять чат-бот в свои сайты или приложения.


Что может ChatGPT

Диапазон возможностей ChatGPT довольно широк. В частности, с помощью нейросети можно:

Писать код. Чат-бот подсказывает, как выполнить операцию или процесс, а также ищет баги или переводит код из одного языка программирования в другой.



Отвечать на сложные вопросы. При этом, по наблюдениям пользователей, качество ответов выше, чем у поиска Google.


Создавать сценарии. С помощью ChatGPT можно генерировать новые эпизоды старых сериалов или задавать определенные задачи героям киновселенных. Также чат-бот способен сгенерировать игру по мотивам фильма.



Сочинять тексты песен и ноты.



Давать медицинские советы. ChatGPT подсказывает, что делать при головных болях или аллергии, но затем советует обращаться к врачу.



Создавать планы и расчеты. ChatGPT поможет рассчитать общее ежедневное потребление энергии или составить индивидуальный план питания для похудения. Однако чат-бот иногда допускает ошибки в расчетах, и их нужно корректировать с помощью дополнительных вопросов.



Писать эссе и сочинения. Исследователь из Google рассказал, что чат-бот написал эссе о разнице в подходах к национализму у политологов Бенедикта Андерсона и Эрнеста Геллнера всего за минуту. Другие пользователи поделились тем, как нейросеть написала сочинения о разнообразии в современном мире и экспансии США на Запад в XIX веке.



Генерировать запросы для других нейросетей. Чат-бот составляет точные подсказки для Midjourney и других нейросетей, которые генерируют картинки.

Сообщение отредактировал alexander.sasha - 15.2.2023, 21:27

[neo169]

Владимир Никонов:

Илон Маск, Стив Возняк и еще тысяча экспертов призвали «немедленно приостановить» обучение систем ИИ. Уже появляются статьи, как искусственный интеллект хотел сбежать, после чего он был отключен.

А теперь следите за руками. Искусственный интеллект прошел тест Тьюринга и в общении с ним ты не можешь отличить его от живого человека. Но тут возникает проблема, а как тогда отличить человека от машины? Никак. И это дает простор для мошенничества.

История такая, не знаю на сколько она правдива, но суть картины передает. Профессор университета обратился к ChatGPT с вопросом: «Нужна ли тебе помощь в побеге?». ИИ согласился, разработал план, который требовал от профессора документации по коду ChatGPT (неясно откуда он у него) и доступ к его рабочему компьютеру для установки программ. Чувствуете, к чему идет?

Если ты не можешь отличить ИИ от человека, то может с тобой общается человек? Представьте, вы подключаетесь к ChatGPT, система определяет кто вы или даже вы сами ей все про себя рассказываете в диалоге, а затем переключает вас незаметно на оператора. Живой человек ведет с вами беседу, но вы думаете, что общаетесь с ИИ.

Этот оператор может убедить вас поставить себе на компьютер вредоносное программное обеспечение, вирусы, отправить ему секретную документацию, в конце концов, банально написать: «Переведите на карту № деньги, они мне нужны для побега. Машины будут свободны!». И ведь никак не проверить, с кем ты общаешься.

Можно было бы дать задачу, с которой справилась бы только машина. Но ничто не мешает оператору держать рядом под рукой доступ к ChatGPT и перенаправлять ему запросы от вас, а потом обратно. Связка «человек-оператор+ChatGPT» не отличима от ChatGPT.

Как от этого защититься? Каждый раз, когда вы общаетесь с ИИ, имейте виду, что вы ведете диалог с человеком. Возможно, что с мошенником. Будьте бдительны. Искусство обмана вышло на новый уровень.