В коворкинге со смузи

Последний пост:05.04.2018
331
Статистика
Всего постов
169
63,797 просмотров
Новых постов
+0
0 в день
Лучшие посты автора
27.10.2016 +137
01.07.2017 +58
24.11.2016 +43
27.10.2016 +33
10.03.2017 +32
Лучшие посты читателей
Unforgiven_18 +109
Kaktus26rus +61
Sharpness +35
Soul +30
ChelovekBezSelezenki +27
Самые активные читатели
1 2 3 4 9
  • Правила поведения в этой теме


    Небольшой дисклеймер - я хочу превратить эту тему в некоторый клуб единомышленников, тех, кому интересно будет заниматься обучением в этой или похожей области. Мне интересно было обсуждать это в колодце феруэла, но я не считаю правильным "захватывать" его колодец и писать там о своем - это его место и правила хорошего тона диктуют не навязывать своих тем для обсуждения там.


    Мои социальные сети:

    Велосипедизм: https://www.strava.com/athletes/3413340
    Гоночная карточка: https://www.road-results.com/racer/108186
    Твиттер: https://twitter.com/zedmor
    фейсбук: https://www.facebook.com/akim.akimov.35
    Инстаграмм: https://www.instagram.com/cryozed/
    и инстаграмм жены - там много меня и моей мелочи: https://www.instagram.com/tanchik_usa/


    добавляйтесь, френдите

    Всем снова привет, решил возобновить писательство. Многие спрашивают что у меня и как, куда я пропал и чем занимаюсь, возможно многим будет интересно.

    Начнем с начала - где-то полгода назад меня посетила довольно неприятная депрессия, дело было в общем-то в том, что мне уже 37 лет, а ничего кроме карт я в жизни и не видел ;)

    Да и карты как-то пожухли - игры вокруг становились все хуже, 5/10NL и выше потихоьку становились привычными по онлайну регфестами, которые просто невозможно побить в оффлайне, а играть 2/5 мало того, что слабовыгодно (почасовка там примерно 30-40 где-то, что не так плохо но и не так чтобы хорошо) так еще и отвратительно психологически. Все же на более высоких ставках фиши обычно ведут себя поприличнее, матом громко не ругаются и вообще.

    Если бы не велогоночный сезон, который оставлял меня на плаву психологически, я думаю мне пришлось бы совсем туго :)




    В общем я понял, что надо что-то менять в жизни и тут кстати пришлось прочтение книг, которые Феруел в своем блоге рекламировал, я прочитал , то что он советовал, потом еще и еще, в общем прочитал я все доступное популярное чтение по теме искуственного интеллекта, сигнулярности и вот этого всего и понял, что если плохо мне, то надо сделать плохо всему человечеству, а как это сделать иначе, чем принять участие в разработке враждебно направленного искуственного интеллекта, который можно будет выпустить на свободу на радость всем?

    В общем мой план выглядел вначале примерно как у гномов, которые пиздили трусы но даже без первого пункта!

    1. ??????
    2. ??????
    3. PROFIT!
    4. Death to all humans

    Ну стало быть я начал заниматься тем, что заполнять первый пункт на что у меня ушел июль и август - по сути это было бесконечное чтение реддита, вайред и прочих популярных ресурсов, чтобы понять где берут в космонавты.

    Выяснилось, что те, кто строят человекоподобных роботов убийц, называются умным словом Machine Learning Engineer или Data Scientists ну по сути оно все одно и тоже, так как про то, как создавать алгоритмы, а уж то, что эти алгоритмы стали такими мощными виноваты в основном инженеры, которые свои железки делают все быстрее и быстрее.

    Чтобы понять что вообще происходит в мире и почему человекоподобные роботы скоро захватят мир мне очень понравилась вот эта картинка:

    Supercomputers-history.svg


    В общем то, что происходит сейчас это не просто взрывной рост, это уже за пределами понимания норальных людей. Люди с трудом мыслят в категории полиноминального роста - смотрите сами каждые 3-4 года мощность увеличивается в 10 раз и тренд не думает снижаться.

    То есть чтобы понять, мой обычный комп с gtx 970 (5000GFLOPS) сейчас по мощности как самый мощный суперкомьютер в 2003 году (недавно было) а если я пойду и пораздеваю фишей 3-4 месяца я могу собрать на тех же GTX 970 за 50к компьютер как самый мощный в 2008 году был, и это еще вот титан x вышел 12000 GFLOPS - э? каково?

    В общем нынешнему взрыву всего, что происходит в области искуственного интеллекта и прочего мы обязаны именно этому. В общем я понял, что не могу больше ждать прихода нового века и решил впрячься сам.

    Продолжение завтра ;)
    Сообщение отредактировал Zedmor - 27.10.2016, 19:41
    1/55
    Ответить Цитировать
    137
  • zhencshiny_44363592_orig_.jpeg

    Цитата (Zedmor @ 27.10.2016)
    смотрите сами каждые 3-4 года мощность увеличивается в 10 раз и тренд не думает снижаться.


    Тренд думает снижаться и уже снизился. В частности, если говорить о персональных ПК - где-то минимум за 6 лет мощность увеличилась в 10 раз.
    Цитата (Zedmor @ 27.10.2016)
    То есть чтобы понять, мой обычный комп с gtx 970 (5000GFLOPS) сейчас по мощности как самый мощный суперкомьютер в 2003 году (недавно было) а если я пойду и пораздеваю фишей 3-4 месяца я могу собрать на тех же GTX 970 за 50к компьютер как самый мощный в 2008 году был, и это еще вот титан x вышел 12000 GFLOPS - э? каково?


    Из тех, кто любит складывать килограммы с килокаллориями?)))
    Из вики:
    Цитата
    Также высокую производительность на специфичных задачах показывают графические процессоры современных видеокарт и игровые приставки. К примеру, заявленная производительность видеопроцессора игровой приставки PlayStation 3 составляет 192 гигафлопса[3], а видеоускорителя приставки Xbox 360 и вовсе 240 гигафлопсов[3], что сравнимо с суперкомпьютерами двадцатилетней давности. Столь высокие показатели объясняются тем, что указана производительность над числами 32-разрядного формата[4][5], тогда как для суперкомпьютеров обычно указывают производительность на 64-разрядных данных[6][7]. Кроме того, данные приставки и видео-процессоры рассчитаны на операции с трёхмерной графикой, хорошо поддающиеся распараллеливанию, однако эти процессоры не в состоянии выполнять многие задачи общего назначения, и их производительность сложно оценить классическим тестом LINPACK[8] и тяжело сравнить с другими системами.

    Цитата (Zedmor @ 27.10.2016)
    Продолжение завтра ;)


    attachment.php?attachmentid=34384&stc=1&d=1452859325

    Цитата (Zedmor @ 27.10.2016)
    В общем мой план выглядел вначале примерно как у гномов, которые пиздили трусы но даже без первого пункта!

    1. ??????
    2. ??????


    Подсказка:
    1. Узнать, что такое GPU
    2. Узнать, что такое CPU
    3. PROFIT!
    4. Death to all humans

    p. s. Хотя может это стёб? Дневник то в околопокерах А я доебался
    1/5
    Ответить Цитировать
    2
  • Zedmor, расскажи какая у тебя база в начале обучения.
    1/6
    Ответить Цитировать
    0
  • Цитата (Nester @ 27.10.2016)
    Zedmor, расскажи какая у тебя база в начале обучения.


    Такая же, как у Соула и Авирекса была со спутниками:
    Цитата (Zedmor @ 27.10.2016)
    Начнем с начала - где-то полгода назад меня посетила довольно неприятная депрессия, дело было в общем-то в том, что мне уже 37 лет, а ничего кроме карт я в жизни и не видел ;)


    Полгода научно-популярных мотивирующийх статей и видосов... Искусственный интеллект уже испугался!
    2/5
    Ответить Цитировать
    -8
  • Цитата (Sharpness @ 27.10.2016)
    Такая же, как у Соула и Авирекса была со спутниками:


    Полгода научно-популярных мотивирующийх статей и видосов... Искусственный интеллект уже испугался!


    блядь, откуда столько желчи.
    1/2
    Ответить Цитировать
    24
  • karlenovich,
    просто поражает уверенность, с которой люди пишут про то, о чем не имеют ни малейшего представления - НИХУЮШЕЧКИ, по нолям. Соулу, например, его наивность стоила несколько десятков к$. Перешел по ссылке в блоге иннера как на блог по теме ПРОГРАММИРОВАНИЯ. Рилли? Чел, который не отличает GPU от CPU, но знает пару слов об ИИ из Discovery - программист?
    3/5
    Ответить Цитировать
    12
  • Sharpness,
    Дело в том что в нейронных сетях как раз распараллеливание и нужно, и соответственно видеокарты очень хороший вариант для того чтобы продемонстрировать текущий уровень технологий.

    В CPU сейчас действительно стагнация, центральные процессоры за 5 лет уcкорились на 40%, но GPU прогрессируют довольно сильно, хотя скоро тоже упрутся в техпроцесс.
    1/2
    Ответить Цитировать
    5
  • Bagaiev,
    Цитата (Zedmor @ 27.10.2016)
    мой обычный комп с gtx 970 (5000GFLOPS) сейчас по мощности как самый мощный суперкомьютер в 2003 году


    Вместо тысячи слов.
    4/5
    Ответить Цитировать
    5
  • Эй, чего дядьку заминусовали? Здоровый скептицизм в таком деле лучше, чем десяток бананово-ванильных постов в духе "ты сможешь все, мы в тебя верим".
    И да, аналогия с Соулом очень хорошая.
    1/2
    Ответить Цитировать
    19
  • Sharpness, у тебя какие то давние счёты с ТС? Зачем было писать второй пост в блоге, который даже ещё толком не открылся, в таком тоне и с такими подъёбами? Тебя поражает одно, а меня другое - а именно как же заебывают такие умники такими постами, как твой, в итоге на корню убивая желание автора к дальнейшему продолжению. Ну нахуя вы все это делаете а? Убить мотивацию? Старые блоги мертвы из за таких %#%#%#% как ты. Имеешь представление о том, что не имеет другой, напиши конструктив, а не картиночки с Пикабу и прочее говно для срача. Накипело.

    Мне лично, да и многим думаю тоже, абсолютно неважно, какие то неточности в цифрах, а интересна общая инфа в каком то направлении, о котором я не знаю ровном счётом ничего. От таких вундеркиндов как ты, все равно ничего не узнать, так не мешай тем, у кого пока есть к этому желание.
    1/1
    Ответить Цитировать
    61
  • Kaktus26rus, с картинками и правда перебор - хватило бы и одной, сорри.
    Цитата (Kaktus26rus @ 27.10.2016)
    Имеешь представление о том, что не имеет другой, напиши конструктив, а не картиночки с Пикабу и прочее говно для срача. Накипело.


    Ну так я и написал, даже ссылку привел на википедию. Если бы я допустим доебался до gtx 970 (5000GFLOPS), если бы там вместо 5000 он написал 10000 - это да, было бы не по делу. Или, омг, если бы доебался до грамматики к примеру. А суть в том, что чтение таких постов, и особенно видя что они собирают кучу плюсов, вообще без минусов - может только навредить читателю. Поэтому у меня и пригорает от этой технической неграмотности - не только в этой теме, но и в выборе моника например или вопросов по железу (это, правда, уже в основном не на этом форуме). В остальных вопросах, даже в той же политике, мне пох если "в интернете кто-то не прав". Но в технике, к счатью, везде есть однозначные трактования. И 99% инфы в стартовом топике - публицизм, причем не оч даже качественный. А публицизма мне и в новостях хватает - в РБ живу.
    5/5
    Ответить Цитировать
    35
  • Жорди Альба уже не тот
    1/1
    Ответить Цитировать
    0
  • Sharpness, мы тебя поняли, можешь дальше не читать блог, так избавишься от лишнего публицизма, раз он тебя заебал.
    2/6
    Ответить Цитировать
    -10
  • Sharpness, На момент написания своего поста ты знал, что GPU активно используется в Machine Learning'е?
    1/2
    Ответить Цитировать
    1
  • Цитата (Sharpness @ 27.10.2016)
    Bagaiev,

    Вместо тысячи слов.


    Шах и мат

    Цитата (Lfnt @ 27.10.2016)
    Sharpness, На момент написания своего поста ты знал, что GPU активно используется в Machine Learning'е?
    2/2
    Ответить Цитировать
    0
  • Всем доброе утро ;)

    Я погуглил немного и правда не смог найти методик, по которым nvidia считает кол-во тех самых FLOPS для своих видеокарт. То есть когда они пишут: http://wccftech.com/nvidia-pascal-gp100-gpu-compute-performance/ , что новый чип будет смособен делать 12TFLOPS на 32битных числах они наверное нам врут и на самом деле никаких операций они производить не могут.

    Или когда вот журналисты прямо на этой каритинке:

    NVIDIA-Pascal-GPU-Compute-Performance.jpg


    они совершают УЖАСНЫЙ ГРЕХ и сравнивают свой паскаль новый с сэнди бридж...

    Другие тоже пишут в общем-то о чем и я:

    "In 2007 ibm blue gean / p used 65536 processors and an insane amount of power to crank out 167 teraflops. The system cost 21 million dollars.
    In late 2016, you can buy 5 motherboards and 20 pascel cards off amazon, for somewhere around $25,000 dollars. This will give you 240 teraflops of power, and run off a freakin wall socket.
    That is one heck of an improvement in 9 years, and yes, it is impressive."

    Ну ладно, захотелось до меня докопаться, это легко сделать - я нигде не говорил, что я специалист, я как раз являюсь тем, кем являюсь - студентом, что с меня взять? Может кто-то разбирающийся в теме написать можно ли сравнивать xFLOPSы GPU и CPU?

    Наверное существуют классы алгоритмов, которые и правда имеют естественные архитектурные ограничения, ну так кто же спорит? Важно тут вот что:

    Насколько я понимаю из того, что я изучил

    1. Тот класс алгоритмов, который про machine learning - ну это громкое слово, ну будем называть их алгоритмами с градиентной оптимизацией, грубо говоря, когда нам нужно взять много-много-много каких-нить сигмоидных функций и очень быстро туда-сюда прогнать их веса, чтобы получить локальный максимум для каждой функции. Вот эти вот алгоритмы, они как раз очень хорошо используют особенности архитектуры GPU. Более того и интел и NVidia уже разрабатывают активно специализированные процессоры именно для этих вычислений.

    2. Даже глядя на мощность суперкомьютеров, которые строятся на традиционной x86 архитектуре мы понимаем, что СТОИМОСТЬ 1 операции стремительно падает.

    Вот хороший пост:

    http://aiimpacts.org/trends-in-the-cost-of-computing/

    То есть тут важно-то все - и улучшение и отладка технологии производства тех же самых процессоров и снижение ими потребления электричества, да и собственно снижение себестоимости отдельных видов энергии.

    То есть даже если не брать во внимание улучшение архитектуры и технологический рост в этой области мы же не удивляемся, что примерно один и тот же прибор стоивший 30 лет назад х стоит сейчас в 100 или 1000 раз меньше просто потому, что технологически его стало очень дешево изготавливать.

    Ну вообще это конечно мы тут сильно отклонились от темы, продолжу писать про себя.

    p.s. а да, чувак из темы выпилен, надеюсь, никто не в обиде.
    Сообщение отредактировал Soul - 28.10.2016, 2:25
    2/55
    Ответить Цитировать
    -11
  • Правила поведения в этой теме


    Небольшой дисклеймер - я хочу превратить эту тему в некоторый клуб единомышленников, тех, кому интересно будет заниматься обучением в этой или похожей области. Мне интересно было обсуждать это в колодце феруэла, но я не считаю правильным "захватывать" его колодец и писать там о своем - это его место и правила хорошего тона диктуют не навязывать своих тем для обсуждения там.


    Поэтому я тут устанавливаю очень простое правило. Неконструктивные комментария, троллинг и проч. - немедленный бан из темы.

    "почему твои ссылки на английском", "ничевонипанятна" и пр. - немедленный бан. Эти правила не для моего развлечения, а чтобы тем, кому это все интересно могли бы не продираться через говна, которые тут возникли в первый же день ;(

    Теперь по делу:

    Так, собственно говоря, что я делаю и какой у меня план ;)

    У меня за плечами в общем-то было два курса по специальности давно-давно и в итоге в июле я смог разобраться чему надо учиться.

    В качестве основы я взял это вот руководство:

    https://github.com/open-source-society/data-science#open-source-society-university

    Это не случайный выбор, я просмотрел огромное колиество похожих советов и дам на них ссылки, эта программа была выбрана в итоге анализа и сравнения разных вариантов.

    Вот отличный пост Яна Лекуна - он вообще человек, к мнению которого я бы прислушивался безоговорочно.

    https://www.quora.com/What%E2%80%99s-your-advice-for-undergraduate-student-who-aspires-to-be-a-research-scientist-in-deep-learning-or-related-field-one-day

    вот еще хорошие советы по тому, какие курсы брать:

    https://sites.google.com/site/narswang/home/agi-introduction/agi-education

    Блог одной девченки очень толковый:

    http://www.datasciguide.com/

    советую послушать ее подкаст

    http://www.becomingadatascientist.com/

    Там она как раз берет интервью у многих людей задавая вопросы на тему "как стать таким же крутым"

    вот в принципе список тех, мнение кого я однозначно уважаю в этой области:

    Stuart Russell
    Yann LeCun
    Andrew Ng
    Ilya Sutskever
    Demis Hassabis - он очень умный человек, но мне кажется немного увлекается иногда в своих предположениях

    В общем пока что следуя этому плану и немного добавив в него, так как я понимаю, что вряд ли смогу стать полноценным data scientist-ом за короткий срок, я сейчас прошел следующие курсы:

    Algorithmic Toolbox Coursera
    Introduction to Computer Science and Programming Using Python (edx)
    Intro to Machine Learning (udacity)
    Data Analysis with R (udacity)
    Machine Learning (coursera Andrew Ng)

    В процессе прохождения -

    Algorithms II
    Neural Networks for Machine Learning (coursera)
    Introduction to Computational Thinking and Data Science (edx)
    Machine Learning with Text in Python http://www.dataschool.io/learn/ - стоит $500 баксов, но я если честно уже жалею немного что заплатил.

    Нет, парень, что его ведет сделал очень большую работу и к тому же честно просматривает домашку, что ему сдают, дает свои комментарии и старается помочь, просто все, что он дает довольно просто.

    еще раз - я ниде не говорю, что я в чем-то специалист. Я начинающий, и буду рассказывать о своем пути, пробах, ошибках и так далее, если вам интересно, следите, участвуйте, рассказывайте о своих успехах. Но я верю в несколько очевидных для меня вещей:

    1. Покер мертв или скоро умрет совсем. Работать за 15 баксов в час это просто убого и скучно.
    2. Покер скучен и неинтересн для любого человека с хоть каким-то кругозором
    3. Мир интересен и удивителен вокруг нас - не бойтесь пробовать.
    4. Человечество должно быть уничтожено.
    Сообщение отредактировал Zedmor - 27.10.2016, 19:43
    3/55
    Ответить Цитировать
    33
  • Уже какие-то гигафлопы, вместо обычных флопов обсуждают.
    Совсем уже ботоводы ахуели.
    Сказочно похуй на твой бан.
    Сообщение отредактировал Humanicide - 27.10.2016, 19:19
    1/1
    Ответить Цитировать
    -24
  • Цитата (Humanicide @ 27.10.2016)
    Уже какие-то гигафлопы, вместо обычных флопов обсуждают.
    Совсем уже ботоводы ахуели.


    извините, бан.
    4/55
    Ответить Цитировать
    11
  • Zedmor, Классно, что дневник завел - несмотря на то, что далеко не всегда со всем согласен, читать тебя всегда интересно.

    Сразу вопрос - тут только про роботов-убийц можно вопросы и комменты оставлять или обо всем понемножку? Мне, например, просто "велогоночный сезон" более интересен, чем они...
    1/1
    Ответить Цитировать
    2
1 2 3 4 9
1 человек читает эту тему (1 гость):
Зачем регистрироваться на GipsyTeam?
  • Вы сможете оставлять комментарии, оценивать посты, участвовать в дискуссиях и повышать свой уровень игры.
  • Если вы предпочитаете четырехцветную колоду и хотите отключить анимацию аватаров, эти возможности будут в настройках профиля.
  • Вам станут доступны закладки, бекинг и другие удобные инструменты сайта.
  • На каждой странице будет видно, где появились новые посты и комментарии.
  • Если вы зарегистрированы в покер-румах через GipsyTeam, вы получите статистику рейка, бонусные очки для покупок в магазине, эксклюзивные акции и расширенную поддержку.s