Творчество роботов (нейросети и т.п.)
- Автор темы Alex_ii
- Дата начала
"Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war."
Я это не для тебя цитирую конечно, потому как говорят, верующему ссы в глаза, всё равно будет божья роса.
Для остальных: список подписантов должен говорить сам за себя, включая такие имена как Сютцкевер, Хассабис, Хинтон, всё руководство Anthropic, и даже Бенгио. До этого OpenAI выпустили свой тезис о скором приходе Deus Ex Machina.
Вообще то, что три топовые мировые лидеры и главные конкуренты в области ИИ: OpenAI, Anthropic и Deepmind - начали выступать вместе - уже должно показывать любому хоть сколь либо сведущему в теме, насколько близко мы подошли к AGI, ведь только они знают что хранится у них на закрытых серверах.
Они на хайпе зарабатывают, пока пузырь не сдулся.
Пока текут деньги, они будут как Свидетели Иеговы ходить и рассказывать про наступающий конец света и Судный День. И раз в две недели выпускать альманах о том, как ужасен и смертоносен ЧатГПТ и что там ещё. Страх всегда хорошо продаётся.
Пока текут деньги, они будут как Свидетели Иеговы ходить и рассказывать про наступающий конец света и Судный День. И раз в две недели выпускать альманах о том, как ужасен и смертоносен ЧатГПТ и что там ещё. Страх всегда хорошо продаётся.
Неплохой свежий обзор сути проблемы:
Класика. Хочется смеятся и плакать одновременно. Показательно что основы теории поведения ИИ систем ещё 15 летней давности, к сожалению, проявляются на 100% даже в "узких" моделях.
С другой стороны, то что большие игроки в области понимают проблему и пытаются договориться (даже китайцы) - несколько воодушевляет. Деньги на человеков я бы не поставил, но надежда есть.
В точности как предсказывали (Роберт Майлз и др.).
У нас совершенно нет опыта взаимодействия с разумными агентами, чьи цели сформированы не общей эволюцией, а искусственно.
"Поразить цель", "сделать чашечку кофе", "наколлекционировать почтовых марок".
Нда.
Уже всё отрицают:
But in an update from the Royal Aeronautical Society on Friday, Hamilton admitted he "misspoke" during his presentation. Hamilton said the story of a rogue AI was a "thought experiment" that came from outside the military, and not based on any actual testing.
"We've never run that experiment, nor would we need to in order to realize that this is a plausible outcome," Hamilton told the Society. "Despite this being a hypothetical example, this illustrates the real-world challenges posed by AI-powered capability."
In a statement to Insider, Air Force spokesperson Ann Stefanek also denied that any simulation took place.
"The Department of the Air Force has not conducted any such AI-drone simulations and remains committed to ethical and responsible use of AI technology," Stefanek said. "It appears the colonel's comments were taken out of context and were meant to be anecdotal."
But in an update from the Royal Aeronautical Society on Friday, Hamilton admitted he "misspoke" during his presentation. Hamilton said the story of a rogue AI was a "thought experiment" that came from outside the military, and not based on any actual testing.
"We've never run that experiment, nor would we need to in order to realize that this is a plausible outcome," Hamilton told the Society. "Despite this being a hypothetical example, this illustrates the real-world challenges posed by AI-powered capability."
In a statement to Insider, Air Force spokesperson Ann Stefanek also denied that any simulation took place.
"The Department of the Air Force has not conducted any such AI-drone simulations and remains committed to ethical and responsible use of AI technology," Stefanek said. "It appears the colonel's comments were taken out of context and were meant to be anecdotal."
Зато теперь "новость" во "всех газетах", включая бибиси.
Качество перевода дико ухудшилось у всех. С тех пор, как начали применяться новомодные технологии т.н. ИИ. Где этим ИИ нихрена и не пахнет, а пахнет прыщавыми бездельниками, научившимися кое-как пользоваться той или иной нейросетевой библиотекой. С синтаксисом ещё так-сяк. Но автопереводчики начали изобретать и втыкать в текст на своё усмотрение несуществующие термины, ориентируясь на формальные признаки словообразования в данном языке.
"Общекотовичарохристофорная хрящетворобка" (с) - вроде, грамматически правильно и составлено из осмысленных корней. Любой формальный анализатор, использующий частотный принцип, скажет, что это нормальный русский язык. Но вот что это обозначает по мнению нейросети? И если на родном языке ты ещё вылавливаешь такие косяки краем глаза, то проверять десятки страниц англоязычного договора - сущее мучение. Ляп теперь может встретиться везде. Блин, я согласен замечать явные нарушения правил и увязывать явно несочетаемые слова, вручную заменять общелитературные слова известным мне профессиональным слэнгом. Но искать опущенные части фраз с грамотными склейками и держать в голове весь словарь Уэбстера - просто чтобы понять что такого слова в языке даже не существует. Нет уж - увольте. Прокрустика...
"Да, - медленно кивнул Координатор. - Какое-то крайнее, потрясающе последовательное злоупотребление теорией информации. Оказывается, она может быть инструментом пыток более чудовищных, чем любые физические мучения..." (с)
Последнее редактирование:
Похоже, придётся сдуть пыль с Лингво и Промта.
На мой идеалистично-дилетантский взгляд термин ИИ можно лепить только к тому, что обладает хоть простейшим самосознанием. А до этого ещё как до Луны раком - сложность и связность существующих нейросетей меньше на порядки. 5-6 слоёв нейронов (распознавание и классификация зрительных образов) это наивысшие пока достижения, которые разработчики могут осмыслить. Но в одном только неокортексе любой сраной кошки (вовсе не обладающей самосознанием) глубина "колонки" - сотня. Современные сети это про обучение на основе жёстких алгоритмов и задаваемых разработчиком/фильтров-моделей, но никак не обучение логике обучения. Без чего о самосознании говорить не приходится.
На практике, в длинных текстах я чаще всего делаю обратный перевод - и те предложения, где получилась совсем-уж галиматья, перевожу вручную.
ИИ удалось обнаружить селфи, сделанные во время Исхода.
Младенцы пухлые, дамы накрашенны...
Не верю
Там и казни есть:
Так в Египте хорошо было, сытно, культурно, мороженное по 20... эээ...бронзовых колец.
Хохма "Товарищи, не верьте всем цитатам из Интернета", стр.123, т.5 ПСС, В.И.Ленин" перестаёт быть хохмой