Daniel5555

Свобода слова 101

Recommended Posts

В 12.11.2019 в 14:20, Nazgul сказал:

Мда, это как же криво была написана нейросеть, что она начала банить пользователей за смайлы, да еще и глобально через все аккаунты, без права на апелляцию. В какую такую злостную категорию могли попасть юзеры, спамящие смайлы? И как  одно только это могло стать критерием бана, безотносительно всей остальной инфы с аккаунта? :rei_facepalm:

 

Ну нейросети-то никто не пишет в привычном смысле этого слова. В этом как раз их основное свойство - задаются некие изначальные параметры (хоть и нетривиальные), ее тренируют, а потом уже сеть сама учится и не надо ничего с ней делать... И проблема у этого подхода как в том, что никто не знает заранее, чему она научится и потом очень сложно в некоторых случаях понять, каким именно образом она чему-то научилась.

 

Так что меня не удивляет, что нейросеть ошибочно научилась чему-то, что с человеческой точки зрения является абсурдом. Что удивляет - почему так часто эти нейросети, прекрасно зная об их ненадежности, ставят на роль контролеров чего-либо? Это, что называется, создание проблем в будущем самому себе.

Share this post


Link to post
Share on other sites
47 минут назад, Daniel5555 сказал:

Что удивляет - почему так часто эти нейросети, прекрасно зная об их ненадежности, ставят на роль контролеров чего-либо? Это, что называется, создание проблем в будущем самому себе.

 

Потому что точность внутривыборочного предсказания у нейросетей легко может быть 99.9%. И, соответственно, пока все поступающие данные похожи на те, на которых сеть строили, все будет ок. В данном случае сеть приняла длинные последовательности смайлов за спам, исходя, видимо, из определения "спам = длинные и/или часто публикуемые последовательности однотипных символов в комментариях". Что, вообще-то говоря, недалеко от истины в типичных случаях. Видимо, никто из разработчиков не рассчитывал, что какой-то канал прямо попросит пользователей фактически спамить коммент-ленту последовательностями смайлов.

Share this post


Link to post
Share on other sites
8 часов назад, Nazgul сказал:

Потому что точность внутривыборочного предсказания у нейросетей легко может быть 99.9%. И, соответственно, пока все поступающие данные похожи на те, на которых сеть строили, все будет ок.

Я подозреваю, что там гугл активно ворд2век заюзал, это же их любимая разработка. А ворд2век - это технология с неконтролируемым обучением, она сама делает выводы без каких-то целеуказаний (и кстати, нейросеть там играет вспомогательную роль) - просто берет большой корпус текстов и делает красиво.

 

Мне вообще кажется, что антиспам - это такая штука, которая так или иначе будет делать ошибки обоих родов, поэтому ей не надо давать слишком много власти.

Edited by Аюпа

Share this post


Link to post
Share on other sites
2 часа назад, Аюпа сказал:

Мне вообще кажется, что антиспам - это такая штука, которая так или иначе будет делать ошибки обоих родов, поэтому ей не надо давать слишком много власти.

 

Вот именно! И меня как раз больше всего удивляет, что баны пользователями были влеплены на уровне всего Гугл-аккаунта, перманентно. Почему бы не заморозить юзера на какой-то срок, дав ему возможность объяснить свою позицию? Спам-аккаунты не будут оспаривать заморозку, и их можно по истечению периода апелляции забанить перманентно.

  • Upvote 1

Share this post


Link to post
Share on other sites

У Ютуба новая высота оперативности - банить недозалитый ролик (такой же несколько лет спокойно лежал на ресурсе).

 

  • Confused 1

Share this post


Link to post
Share on other sites
13 часов назад, Calter сказал:

Интересное по теме

 

Я не посмотрел видео, так как очень мало времени... Но я в этой и других темах вроде неоднократно говорил о том, что очень многие хотят убить свободу в интернете и о возможности создания фрагментированного интернета. Начиная с того момента, как убили интернет-нейтральность в США.

 

Так что ничего нового в этом всем нет. Основная задача сейчас это всеми силами помешать этому и это включает работу по странам, так как у интернета нет центрального управления и все упирается, в конечном счете, в законы конкретных государств.

Share this post


Link to post
Share on other sites

Продолжение темы со свободой слова в социалочках

 

 

Share this post


Link to post
Share on other sites
В 05.05.2020 в 16:26, Calter сказал:

Продолжение темы со свободой слова.

Это будет происходить до тех пор, пока цензура со стороны частных лиц и коммерческих корпораций не станет считаться нарушением свободы слова.

  • Like 2

Share this post


Link to post
Share on other sites

 

 

И вот тут-то я удалил свой акк.

  • Like 1

Share this post


Link to post
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Guest
Reply to this topic...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.


  • Recently Browsing   0 members

    No registered users viewing this page.