Как да определите, че текстът е написан от невронна мрежа
разни / / August 21, 2023
Изкуственият интелект е добър помощник в много области. Но не трябва да му се доверявате безусловно.
от данни Bloomberg, около 30% от специалистите използват невронни мрежи за генериране на текст. В Русия 67% от анкетираните искате да кандидатствате в работата на изкуствения интелект, за да работят по-малко и да не губят доходи. Това е просто такава статистика радва не всички клиенти. Някои не вярват на невронните мрежи, така че предпочитат текстовете да се пишат не от роботи, а от хора.
Ние разбираме защо клиентите са предпазливи към технологиите и какви средства за излагане на невротекстове съществуват днес.
Защо текстовете от невронни мрежи трябва да се третират с повишено внимание
Ето основните причини, поради които клиентите са предпазливи към подобни статии.
Риск от нарушаване на авторски права
Днес няма официална позиция по въпроса кой принадлежат авторски права за текстове, създадени с помощта на AI. Според закона автор е лице, което създава произведение с творчески или интелектуален труд. Въпреки това, в случай на невронна мрежа хората само дават инструкции, но не пишат сами.
Тъй като сега законът не признава невротекстовете като обект на авторско право, правилата за използване на съдържание, генерирано от технологии, се определят в потребителското споразумение на невронната мрежа.
И ако Open AI предава права върху текста дори в безплатната версия, след това Gerwin граници използването му за политически, дискриминационни цели или в неблагоприятна реклама. И в по средата на пътуването да използвате съдържанието за търговски цели Мога само ако продуктът е генериран на платена цена.
Риск от получаване на неуникална или неточна информация
Невронната мрежа получава заявка, прекарва я през алгоритми, анализира наличната информация по темата и издава отговор. Без да отричам, че същата заявка от друг потребител може да доведе до подобен или подобен текст.
И тук идва нова опасност. Изследователи от университета Корнел излязоха с това заключение: ако отговорите на невронната мрежа на един и същи въпрос се различават значително, тогава с голяма вероятност тя излиза с факти.
Рискът невротекстовете да намалят ресурса на компанията в резултатите от търсенето
В края на миналата година специалистът по качеството на Google Дуй Нгуен деклариранче компанията разполага с алгоритми за откриване и понижаване на създаденото съдържание изкуствен интелект. Поради това мнозина се опасяват, че търсачките ще търсят такова съдържание и ще го песимизират. Тоест да понижи позицията в резултатите от търсенето.
Прецедентите вече съществуват. Например маркетологът Нийл Пател похарчи експерименткато създаде 50 тестови уебсайта, които раздели на две групи. Експертът напълни сайтовете на първата част със статии, създадени изключително от изкуствен интелект. Сайтовете на втория хостват AI статии, модифицирани от хора, както и материали, написани от копирайтъри без използването на невронни мрежи.
Резултатите от експеримента показаха, че ресурсите на първата група загубиха няколко позиции в резултатите от търсенето. И доведе до намаляване трафик до 70%.
В същото време представители на Google добавиха, че имат положително отношение към развитието на невронни мрежи и вече са създали свои собствени Чатбот Бард. Но за компанията качествените текстове са приоритет. Системата, която класира резултатите, на първо място предлага на потребителите материали, които отговарят стандарти E‑E‑A‑T (опит, компетентност, надеждност, надеждност).
Съответстващите им текстове вдъхват доверие и се считат за полезни, защото съдържат примери, опит, аналитична част и изследвания. И съдържанието, което създават невронните мрежи, без допълнително дълбоко усъвършенстване от човек, често не е такова.
Междувременно в Държавната дума предложи въведе етикетиране за материали, създадени с помощта на AI. Докато това се случи, определете текста генерирани от невронна мрежа, ще трябва да го направите сами. Или с помощта на специални услуги.
Как самостоятелно да определите, че текстът е написан от невронна мрежа
Наскоро се проведе Технологичният университет MIREA експеримент, на което присъстваха 20 учители и над 200 ученици. Половината от тях сами са писали научни трудове. А останалите 50% са използвали помощта на невронни мрежи. Учителите, от друга страна, трябваше да изчислят такива AI материали.
За да направят това, учителите обърнаха внимание на стилистичните и правописни особености на текста. Например за голям брой повтарящи се думи и значения, действителни и логични грешки, липса на оригинални съдебни решения. По този начин учителите успяха да идентифицират 96% от работата, написана с помощта на невронната мрежа. 4% от учениците, които не са били изложени, са признали, че са прекарали много часове в редактиране на AI текст.
Няма универсална инструкция, която да помогне за изчисляване на текста, генериран от невронната мрежа. Експериментът обаче показва, че подобни модели са присъщи на такива материали. Нека ги разгледаме по-подробно.
Повторения на значения и думи
Една от причините даден сайт да падне надолу в резултатите от търсенето е повторната оптимизация на ключови думи. Невронната мрежа в отговор на заявка често „отговаря в кръг“. Понякога тя използва различни случаи, но значението все още се повтаря.
И така, на екранната снимка по-долу, изкуственият интелект беше натоварен да напише публикация за продажба за нов, нежен начин за боядисване на косата. И в малък текст невронната мрежа многократно повтори едни и същи тези.
Почти всяко изречение генериран текст повтаря се фразата "нов начин на оцветяване". Освен това има многократно дублиране на значения за безопасността на метода и индивидуален подход, който ще подчертае уникалността на всеки клиент.
Ето някои цитати от текста, илюстриращи това: „трансформирайте имиджа си и изразете своята индивидуалност“, „вземете под внимание вашата индивидуалност“, „подходящо за вас“, „създайте за вас уникален и стилен външен вид", "направете прическата си уникална", "запазете здравето и блясъка на косата си", "безопасен за вашата коса", "грижете се за косата си, запазвайки я здраве".
Междувременно беше достатъчно да споменем веднъж, че в салона беше представена нова процедура - щадяща метод на оцветяванекоето ще поддържа косата жива. И също така обяснете как работи методът, каква е неговата новост и защо е безопасен. И добавете, че цветовата палитра е разнообразна, а обучените майстори не само ще извършат оцветяване с високо качество, но и ще помогнат при избора на цвят.
Наличието в текста на голям брой печати и клишета, липсата на сетивен опит
Примерът за оцветяване също показва, че невронната мрежа не може да имитира как човек говори в реалния живот. Хората запечатват, използват жаргон и съкращения, умишлено изопачават думите. Такова представяне помага да се привлече вниманието, да се предизвикат емоции, да се предаде позицията на автора, неговия сетивен опит.
Проучване шоу: невронната мрежа не споделя чувства, не приема ничия позиция. Затова предпочита неутралността, клишетата и клишетата. В горния пример това са „професионални умения“, „висококачествени материали“, „уникална възможност“.
В същото време невронната мрежа генерира текстове в различни стилове. Например, можете да й дадете задача да подготви материал на тема „Какво влияе върху цената на масло». Но да уточня, че текстът не трябва да бъде написан на сух език, а с добавяне на метафори и сравнения. Резултатът обаче все още е изкуствен. В крайна сметка AI няма мярка, той не „усеща“ текста по начина, по който го прави човек.
1 / 0
2 / 0
Един от параграфите ще ви помогне да видите, че полученият резултат не може да се сравни с интонацията, присъща на човек: „Търсенето и предлагането са като танц на двама влюбени на пазара на петрол. Ако търсене на петрол се покачва като бушуващ океан и ако предлагането не успее да се справи, цените се покачват като шампанско на новогодишно парти. Но ако търсенето намалее и предлагането се повиши, тогава цените могат да паднат като балон на детско парти."
Текстът изглежда изкуствен, а повечето завои в него не са на мястото си. И въпреки че публикацията наистина се оказа „не суха“, трудно е да си представим, че експерт би написал по този начин. Освен това буквално всяко изречение е метафора и сравнение. Подобни техники обаче трябва да бъдат точни и добре вградени в текста. В противен случай смисълът ще се загуби зад излишъка от изображения.
Наличие на безсмислени фрази и липса на логика
Лингвистът Ноам Чомски в книгата си Синтактични структури отбелязва, че граматически правилната конструкция на фрази в изречение не гарантира наличието на логика и смисъл. Като пример експертът цитира израза colorless green ideas sleep furiously – „безцветните зелени идеи спят бясно“.
Алгоритмите помагат на невронната мрежа да изгражда правилни изречения по отношение на граматиката. Въпреки това, за AI няма концепция за "смисъл". И може да има своя собствена логика за всеки параграф, тъй като материалът е получен от различни източници.
Например, невронна мрежа беше помолена да генерира рецензии за душ гел и анцуг. Текстът за дрехите се оказа така: „С помощта на костюм можете да се отпуснете, да се потопите в света на спорта и също да отидете на разходка. Има контрол на температурата, благодарение на който се чувствате комфортно във всяка ситуация.
И ето преглед на душ гела: „Прекрасен гел, не изтича, не утежнява кожата. Опаковани в чанта, в кутия, с капак. Няма нужда да чакате нещо допълнително, за да се разпадне малко. Може да се използва като нощен душ гел.
Някои фрази в тях добре изградена, но в същото време изглеждат абсурдни и наподобяват илюстрацията на Чомски.
Липса на текстура и повърхностни примери
Изкуственият интелект дава очевидна информация в текстовете, общи факти, използва рационализирани фрази и примери, които не разкриват много въпроса. В този случай сложността на темата няма значение. Въпросът може да бъде дълбок, като например перспективите за развитие включвания в Русия. Или по-просто и индивидуално, относно избора на техника.
В текста за приобщаването невронната мрежа разказа колко важна и актуална е тази тема. Тя допълни още, че приобщаването е дълъг процес, съпроводен с трудности, но се работи за създаване на условия за хората със специални потребности. И обобщи: ако не спрете, тогава развитие със сигурност ще има.
Написаното обаче не отговаря на въпроса. Важно е текстът да е конкретен. Например можете да анализирате кои от приетите закони работят и кои не и защо. Да се разкрие чужд опит. И обяснете какви конкретни стъпки държавата, бизнесът и всеки човек още могат да предприемат за развитие на приобщаването.
В текста за закупуване на смартфонгенерирани от невронната мрежа, очевидните фактори за подбор също са посочени. Например: трябва да вземете решение за операционната система (iOS или Android), марката, да прочетете рецензии и технически спецификации, както и да вземете предвид собствените си възможности.
1 / 0
2 / 0
Хората обаче разбират това. Друго нещо е да говорим за чиповете на операционните системи, да посочим ограниченията, които съществуват в момента. Или споменете иновативни решения - например технологията eSIM, която ви позволява да имате до пет номера в един смартфон. Или споделете скъпи модели устройства и техните аналози на най-добра цена.
Изопачаване на факти, добавяне на измислена информация
Невронната мрежа отговаря правдоподобно на почти всеки въпрос, предоставяйки хроника, дати, фамилни имена, история на произход. В този случай информацията е изкривена или напълно измислена. Такава грешка в работата на AI се нарича халюцинация.
И така, невронната мрежа получи задачата да разкаже за известните глухи хоракойто има голям принос за развитието на обществото. В резултат на това AI изобретил повечето от тях.
1 / 0
2 / 0
Например астронавтът Реймънд Лу или боксьорът Марио Галегос. И 42-ият президент на Съединените щати все още не беше Матю Клинтън, а Бил Клинтън. И той не загуби слуха си.
В допълнение, AI уверено отговори на искането „напишете публикация за креатива амнезия». Въпреки че няма такъв термин.
На въпрос защо ботът измисля хора и говори за несъществуващи термини, той само се извинява за евентуално объркване.
1 / 0
2 / 0
Когато неверни факти се преплитат с верни данни, е по-трудно да се открият халюцинации на невронни мрежи. Особено когато свободно четене. Но ако се съсредоточите върху примерите, дадени в текста, можете да забележите тези, които изглеждат подозрителни и да ги проверите, като ги напишете в лентата за търсене.
Липса на актуална информация за текущи промени, събития
Невронните мрежи се самообучават, когато комуникират с потребители, запомнят разясненията на човек, реакцията му към генерираното съдържание, примери, които човек споделя с бот. Експерти отбелязаче способността на ИИ да се самообучава е изненада за тях. И че това умение помага на невронните мрежи да се подобрят.
При което машинно обучение, проведено от разработчици върху гигабайти данни - статии, книги, текстове от мрежата - има ясно начало и край. И по принцип невронните мрежи нямат достъп до търсачките. Следователно информацията, която се появи след обучението, проведено от разработчиците, не е достъпна за AI до следващия етап.
В същото време интервалът между машинното обучение е месеци, а понякога и години. Разбира се, прогресът не стои неподвижен: например през май тази година GPT Plus стана достъпен за потребители с платен абонамент ChatGPT с достъп до Интернет. Въпреки това повечето невронни мрежи, особено техните безплатни версии, все още нямат такава възможност.
И така, базата на безплатната версия на ChatGPT4 е ограничена до 2021 г., така че ботът не знае кой спечели последното Световно първенство през 2022 г. А невронната мрежа на Google - Bard AI - призна, че не може да състави текст за значими събития, случили се в света това лято.
1 / 0
2 / 0
Тъй като последното й обучение беше проведено от разработчиците през май 2023 г., лятото все още не е настъпило за Bard AI.
В такива случаи невронните мрежи обикновено не излизат с факти, но признават, че не могат "предскаже бъдещето».
Ако текстът не съдържа актуална информация по темата или изглежда разкъсан от реалността, тъй като напоследък много се е променило, тогава има вероятност материалът да е написан от невронна мрежа.
Какви услуги могат да помогнат
Текстът, генериран от изкуствения интелект, може да бъде разпознат и с помощта на самата невронна мрежа. Например, може бот GPT-4. Специални услуги, които могат да открият AI алгоритми, също могат да помогнат. Нека разгледаме някои от тях по-долу.
- Text.ru. Сайтът е позициониран като борса за копирайтинг и антиплагиатство. Но наскоро в портала се появи платен невро-асистент. Една от функциите му е AI детектор. Текстът за проверка трябва да бъде зареден в прозореца. След няколко секунди системата ще даде резултата.
- PR CY. Можете да качвате текстове от 1000 знака в услугата. В същото време на портала има разяснения: опции с ниско качество, спам, които човек е написал, системата ще счита за резултат от работата на AI. Както и текстове с ярка стилистична окраска - например подобни на произведения Маяковски.
- GPTZero. Инструментът разчита сложността, комбинацията от думи, структурата и дължината на изреченията. Въпреки това, ако услугата се справя добре с текстове на английски, тогава при зареждане на рускоезичен материал често дава грешка. От предимствата - наличието на безплатна версия.
Невронната мрежа може да бъде чудесен помощник. Например, когато търсите идеи. Но пълното доверие на нейното съдържание е опасно. Трябва да се отнасяте към материалите с изкуствен интелект отговорно: редактирайте спама, проверявайте за точност, логика и уместност на фактите. И съобразете стила с "човешкия" език, за да не плашите публиката, да запазите репутацията и позицията на компанията в резултатите от търсенето.
Прочетете също🤖
- 6 причини, поради които не трябва да се доверявате сляпо на изкуствения интелект
- Как да добавите бот към Discord
- 6 невронни мрежи за създаване на лога