Интересный феномен: умные люди ведутся на алармизм по поводу Super AI

Последний год в сети все чаще появляются встревоженные голоса людей, пугающих сильнейшими прорывами в области AI

Идея вкратце такая - за последние 10 лет ученые работающие в области имитации человеческого интеллекта на компьютерах достигли ТАКОГО прогресса, что еще какие нибудь 10-15 лет и все, капец, наступит момент сингулярности. В этот момент искусственный разум станет на порядок выше человеческого и весь мир будет находится в руках машин, а уж дальше как машины решат, что с миром делать. Может, все нахер уничтожат, может всех вместе, а может только людей. Скайнет короче.

Все это было бы смишно, но в числе сторонников таких алармистских теорий - Элон Маск и Стивен Хокинг, не самые глупые люди, надо признать.

Френды, вы ведь тоже такой тренд встречали, в интернетах? Что происходит вообще? Почему людям сносит крышу? Или вы тоже считает, что боты Скайнета уже собирают бластеры в подземных лабораториях?

ПС. Одна из причин по которым я скептически отношусь к новостям об успехах в области АИ, заключается в том, что любое реальное продвижение могло бы быть сразу использовано в области автоматизации труда программистов, и те люди которые обладают этими волшебными алгоритмами могли бы наварить сразу дикое количество денег с бизнеса, который начал бы увольнять программистов и заменять их "Java Programmer App" для айфона, которому можно через микрофон обьяснить задачу, дать логин и пароль от gitа, и он через 1 минуту засубмиттит на гит код решающий задачу, причем без багов. Ага.

Украине нужны не только Джавелины. Украине нужны Экскалибуры

Я правильно понимаю, что у РФ нет аналогичных систем?

Шутка ли - 30 км дальность стрельбы и 10 метров точности попадания, за счет корректировки по ГПС.

https://en.wikipedia.org/wiki/M982_Excalibur

Придумал фразу

Духовные склепы.

через Л.

Есть такие ученые - кибернетики

Это очень интересные ученые

Например, МЕЙНСТРИМОМ в их науке является утверждение, что феномен сознания возникает при увеличения сложности вычислительной системы.

Иными словами, можно написать (на Джаве, например) программу, которая будет ОСОЗНАВАТЬ СЕБЯ так же, как мы осознаем себя. Скажем, программа на Джаве вдруг может задаться вопросом, неожиданно = "А какой смысл моего существования в этом мире, какая цель? Существует ли Бог которые создал меня и мой мир? Что будет после моего уничтожения? Почему мне музыка Бетховена нравится больше, чем музыка Моцарта? Почему я считаю желтый цвет более теплым, чем голубой?" Вопрос только в сложности программы, если кинуть пару миллионов джава-программистов и дать каждому пару тысяч лет времени, то программа начнет осознавать себя, чувстовать, страдать, любить и надеяться.

Против этих ученых восстал известный математик Пенроуз, который продвигает точку зрения, что никакой алгоритм, вне зависимости от сложности, не может обладать сознанием (речь идет не про поведение, которые для внешнего наблюдателя выглядит как сознательное, как человеческое, а про сознание НА САМОМ ДЕЛЕ).

Пенроуз считает, что феномен сознания человека может быть обьяснен только квантовыми эффектами в нейронах мозга, где про полную детерминистическую алгоритмичность а ля программа на Джаве говорить не приходится.

While mainstream theories assume that consciousness emerges as the complexity of the computations performed by cerebral neurons increases, Orch-OR posits that consciousness is based on non-computable quantum processing performed by qubits formed collectively on the microtubules of the cells, a process significantly amplified in the neurons.

http://en.wikipedia.org/wiki/Orchestrated_objective_reduction

четыре силы

Originally posted by avva at четыре силы

Новый XKCD отличный. It's funny because it's true!

Ролик МЧС про атомный удар по Москве. Произведение искусства!

Почему-то считается, что Атомную войну начнут через ракетный удар

и что время подлета боеголовок к Москве составит 7 минут, если стрелять из северной Атлантики

и что типа, всегда есть 7 минут приготовиться, сбежать в укрытие, президенту открыть ядерный чемоданчик.

тогда как очевидно же, что есть способ нанести более быстрый удар

мощнейший атомный заряд можно поместить на Боинг 747 следующий рейсом Нью-Иорк - Москва

при этом, при вылете, настоящий Боинг с пассажирами блокируется спецназом, у пассажиров отбирают все мобильники, чтобы они не могли сообщить внешнему миру, что они не вылетели.

а ударный Боинг, груженный под завязку специализироваными ракетами суперблизкого радиуса действия - вылетает в беспилотном режиме

подлетает к Шереметьево, дает залп полного боезапаса. Крылатая ракета долетит от Шереметьева до Кремля очень быстро, никакая ПВО не успеет ее перехватить. А если залп делать ночью и в тумане, над облаками, то и дистетчеры не просекут, что это такое случилось, почему от Боинга вдруг пошли десять быстрых точек по экранам радара. В крайнем случае, позвонят в ФБС, скажут, "что-то летит от нас", пока скажут, уже и прилетит.


Так что если США начнут войну, то 7 минут не будет, Москва уйдет сразу, а потом уже Сибирь будет делать обратку.
Интересная ситуация будет в том случае, если Сибирь не захочет защищать Москву. Ведь выбор какой - или всем нафиг погибнуть, или Сибири встать на место Москвы. Неизвестно как Сибирь решит.