В коворкинге со смузи

Правила поведения в этой теме


Небольшой дисклеймер - я хочу превратить эту тему в некоторый клуб единомышленников, тех, кому интересно будет заниматься обучением в этой или похожей области. Мне интересно было обсуждать это в колодце феруэла, но я не считаю правильным "захватывать" его колодец и писать там о своем - это его место и правила хорошего тона диктуют не навязывать своих тем для обсуждения там.


Мои социальные сети:

Велосипедизм: https://www.strava.com/athletes/3413340
Гоночная карточка: https://www.road-results.com/racer/108186
Твиттер: https://twitter.com/zedmor
фейсбук: https://www.facebook.com/akim.akimov.35
Инстаграмм: https://www.instagram.com/cryozed/
и инстаграмм жены - там много меня и моей мелочи: https://www.instagram.com/tanchik_usa/


добавляйтесь, френдите

Всем снова привет, решил возобновить писательство. Многие спрашивают что у меня и как, куда я пропал и чем занимаюсь, возможно многим будет интересно.

Начнем с начала - где-то полгода назад меня посетила довольно неприятная депрессия, дело было в общем-то в том, что мне уже 37 лет, а ничего кроме карт я в жизни и не видел ;)

Да и карты как-то пожухли - игры вокруг становились все хуже, 5/10NL и выше потихоьку становились привычными по онлайну регфестами, которые просто невозможно побить в оффлайне, а играть 2/5 мало того, что слабовыгодно (почасовка там примерно 30-40 где-то, что не так плохо но и не так чтобы хорошо) так еще и отвратительно психологически. Все же на более высоких ставках фиши обычно ведут себя поприличнее, матом громко не ругаются и вообще.

Если бы не велогоночный сезон, который оставлял меня на плаву психологически, я думаю мне пришлось бы совсем туго :)

В общем я понял, что надо что-то менять в жизни и тут кстати пришлось прочтение книг, которые Феруел в своем блоге рекламировал, я прочитал , то что он советовал, потом еще и еще, в общем прочитал я все доступное популярное чтение по теме искуственного интеллекта, сигнулярности и вот этого всего и понял, что если плохо мне, то надо сделать плохо всему человечеству, а как это сделать иначе, чем принять участие в разработке враждебно направленного искуственного интеллекта, который можно будет выпустить на свободу на радость всем?

В общем мой план выглядел вначале примерно как у гномов, которые пиздили трусы но даже без первого пункта!

1. ??????
2. ??????
3. PROFIT!
4. Death to all humans

Ну стало быть я начал заниматься тем, что заполнять первый пункт на что у меня ушел июль и август - по сути это было бесконечное чтение реддита, вайред и прочих популярных ресурсов, чтобы понять где берут в космонавты.

Выяснилось, что те, кто строят человекоподобных роботов убийц, называются умным словом Machine Learning Engineer или Data Scientists ну по сути оно все одно и тоже, так как про то, как создавать алгоритмы, а уж то, что эти алгоритмы стали такими мощными виноваты в основном инженеры, которые свои железки делают все быстрее и быстрее.

Чтобы понять что вообще происходит в мире и почему человекоподобные роботы скоро захватят мир мне очень понравилась вот эта картинка:

В общем то, что происходит сейчас это не просто взрывной рост, это уже за пределами понимания норальных людей. Люди с трудом мыслят в категории полиноминального роста - смотрите сами каждые 3-4 года мощность увеличивается в 10 раз и тренд не думает снижаться.

То есть чтобы понять, мой обычный комп с gtx 970 (5000GFLOPS) сейчас по мощности как самый мощный суперкомьютер в 2003 году (недавно было) а если я пойду и пораздеваю фишей 3-4 месяца я могу собрать на тех же GTX 970 за 50к компьютер как самый мощный в 2008 году был, и это еще вот титан x вышел 12000 GFLOPS - э? каково?

В общем нынешнему взрыву всего, что происходит в области искуственного интеллекта и прочего мы обязаны именно этому. В общем я понял, что не могу больше ждать прихода нового века и решил впрячься сам.

Продолжение завтра ;)

Цитата (Zedmor @ 27.10.2016)
Неконструктивные комментария, троллинг и проч. - немедленный бан из темы.

По какому пункту из этих твоих правил ты забанил Sharpness? Он тебе (а заодно, и всем читателям) с пруфами показал, что в твоем тексте много, мягко говоря, далеких от реальности утверждений, которые вводят читателей в заблуждение. Да, он сделал это в слегка язвительном стиле, но конструктив в его сообщениях однозначно был. А ты, полностью проигнорировав конструктив, просто забанил его, попутно назвав "мудаком", - это разве справедливо?

Интересно, в этом сообщении ты тоже увидишь "троллинг" и "неконструктив"? Главное - не стоит забывать, что истина рождается как раз-таки в спорах и дискуссиях

UPD: ну что ж, бан я все-таки получил, а вот сообщение это никуда не денется уже))

Как мы видим, у ТСа синдром вахтера в терминальной стадии, а также полная неготовность вести какие-либо дискуссии и адекватно воспринимать критику. Видимо, в жизни ТСа часто затыкают аргументами в спорах на любую тему, поэтому ему остается только в блоге отрываться на беззащитных читателях

Кстати, сам Феруэлл, на которого ТС равняется, никогда не банит просто за противоположное мнение. Баны он выписывает лишь в крайних случаях откровенным неадекватам. ТС за то, что позволяет себе прямые оскорбления, в блоге Феруэлла получил бы бан одним из первых Кстати, вопрос к администрации GT: забанить в блоге за не понравившееся мнение, еще и обозвав человека мудаком, - это нормально? Мне кажется, нет

P.S.: Увы, но с таким подходом, блог обречен на смерть уже с самого начала )

Sharpness, у тебя какие то давние счёты с ТС? Зачем было писать второй пост в блоге, который даже ещё толком не открылся, в таком тоне и с такими подъёбами? Тебя поражает одно, а меня другое - а именно как же заебывают такие умники такими постами, как твой, в итоге на корню убивая желание автора к дальнейшему продолжению. Ну нахуя вы все это делаете а? Убить мотивацию? Старые блоги мертвы из за таких %#%#%#% как ты. Имеешь представление о том, что не имеет другой, напиши конструктив, а не картиночки с Пикабу и прочее говно для срача. Накипело.

Мне лично, да и многим думаю тоже, абсолютно неважно, какие то неточности в цифрах, а интересна общая инфа в каком то направлении, о котором я не знаю ровном счётом ничего. От таких вундеркиндов как ты, все равно ничего не узнать, так не мешай тем, у кого пока есть к этому желание.

Так, пора чутка всплыть и рассказать что происходит ;)

Сначала о хорошем - меня не уволили ;)

Теперь о плохом - подняли зарплату и теперь я не джуниор, а обычный инженер с зарплатой средней по отрасли. В итоге все стало гораздо тяжелее. Предполагается, что я сам должен решать задачи без того, чтобы дергать за рукав старших, и даже мне дали пол-интерна (точнее интерна взяли в наш тим и мне тоже можно его посылать за кофе просить погонять тесты и записать результаты в табличку, дописать модуль и всякое такое прочее. Из-за того, что эффективность у меня меньше приходится добирать временем ;( В итоге приходится гриндить софт дев нонстоп.

Вообще надо кое-чего рассказать про мир "big data", когда люди говорят об этом почему-то представляется что-то типа:

Ну а на самом деле... Ну похоже в общем:

Но на самом деле вся эта дата сайнс это как работать на колбасной фабрике - чтобы вышла колбаса кто-то должен уныло настраивать SQL сервер, придумывать всякие каскадные таблицы, методы репликации и писать samza модули, чтобы на выходе получилось что-нибудь совсем простое (типа простейшей логической регрессии, например), но это простое должно ооочень быстро применять к огромному потоку проходящих данных, а эти самые данные должны очень быстро перемещаться по цепочкам разных систем типа хадуп серверов, SQL серверов и проч., чтобы в итоге кто-нибудь где-нибуть мог открыть красивый график. По сути за любой системой типа google trends или zillow или любой другой data-ориентированой штуки стоит очень много всякой такой мелкой работы, которую никто не оценит и никогда не увидит. А все эти алгоритмы и прочие красивые и сложные математические вещи... Ну в общем наверное где-нибудь в гугле это и нужно.

Напишу кратко, чем я занимался за эти 3 месяца и чему научился (пишу больше, чтобы в резюме это засунуть)

- Настроил систему постоянной интерграции, сделал так, чтобы все артифакты и релизы собирались в одном месте, с правильными версиями, проходили автоматические тесты.

- Написал и продолжаю писать систему автоматических тестов для проверки работоспособности всей цепочки обработки данных, с учетом анализа производительности и оценки слабых мест.

- Работаю над оптимизацией SQL серверов - индексы, частичные репликации. В общем что делать, чтобы в SQL быстро вставлялось и быстро вынималось ;)

- Только начал писать samza-контейнеры - это такой фреймворк на яве для потоковой обработки данных.

- Очень много питона в виде разработки и поддержки API на django, который доставляет данные для фронтэнд модуля.

Ну ладно, надеюсь не утомил ;)

Вцелом могу сказать, что уйти из покера лучшее, что было в моей жизни, после того, как придти в покер ;)

А еще у нас сегодня был салют по случаю дня независимости и концерт прямо нашего филадельфийского аркестра. Очень красиво было. Салют такой, что я вообще не помню такого - минут 10 пуляли, бабахало будь здоров.

Всем удачи!

О, наконец-то тормозная иммиграция выдала мне гринкарту ;)
9 лет на рабочей визе это не хрен собачий! ;) Колеса бюрократии мелят медленно но верно.

Kaktus26rus, с картинками и правда перебор - хватило бы и одной, сорри.

Цитата (Kaktus26rus @ 27.10.2016)
Имеешь представление о том, что не имеет другой, напиши конструктив, а не картиночки с Пикабу и прочее говно для срача. Накипело.

Ну так я и написал, даже ссылку привел на википедию. Если бы я допустим доебался до gtx 970 (5000GFLOPS), если бы там вместо 5000 он написал 10000 - это да, было бы не по делу. Или, омг, если бы доебался до грамматики к примеру. А суть в том, что чтение таких постов, и особенно видя что они собирают кучу плюсов, вообще без минусов - может только навредить читателю. Поэтому у меня и пригорает от этой технической неграмотности - не только в этой теме, но и в выборе моника например или вопросов по железу (это, правда, уже в основном не на этом форуме). В остальных вопросах, даже в той же политике, мне пох если "в интернете кто-то не прав". Но в технике, к счатью, везде есть однозначные трактования. И 99% инфы в стартовом топике - публицизм, причем не оч даже качественный. А публицизма мне и в новостях хватает - в РБ живу.

Правила поведения в этой теме


Небольшой дисклеймер - я хочу превратить эту тему в некоторый клуб единомышленников, тех, кому интересно будет заниматься обучением в этой или похожей области. Мне интересно было обсуждать это в колодце феруэла, но я не считаю правильным "захватывать" его колодец и писать там о своем - это его место и правила хорошего тона диктуют не навязывать своих тем для обсуждения там.


Поэтому я тут устанавливаю очень простое правило. Неконструктивные комментария, троллинг и проч. - немедленный бан из темы.

"почему твои ссылки на английском", "ничевонипанятна" и пр. - немедленный бан. Эти правила не для моего развлечения, а чтобы тем, кому это все интересно могли бы не продираться через говна, которые тут возникли в первый же день ;(

Теперь по делу:

Так, собственно говоря, что я делаю и какой у меня план ;)

У меня за плечами в общем-то было два курса по специальности давно-давно и в итоге в июле я смог разобраться чему надо учиться.

В качестве основы я взял это вот руководство:

https://github.com/open-source-society/data-science#open-source-society-university

Это не случайный выбор, я просмотрел огромное колиество похожих советов и дам на них ссылки, эта программа была выбрана в итоге анализа и сравнения разных вариантов.

Вот отличный пост Яна Лекуна - он вообще человек, к мнению которого я бы прислушивался безоговорочно.

https://www.quora.com/What%E2%80%99s-your-advice-for-undergraduate-student-who-aspires-to-be-a-research-scientist-in-deep-learning-or-related-field-one-day

вот еще хорошие советы по тому, какие курсы брать:

https://sites.google.com/site/narswang/home/agi-introduction/agi-education

Блог одной девченки очень толковый:

http://www.datasciguide.com/

советую послушать ее подкаст

http://www.becomingadatascientist.com/

Там она как раз берет интервью у многих людей задавая вопросы на тему "как стать таким же крутым"

вот в принципе список тех, мнение кого я однозначно уважаю в этой области:

Stuart Russell
Yann LeCun
Andrew Ng
Ilya Sutskever
Demis Hassabis - он очень умный человек, но мне кажется немного увлекается иногда в своих предположениях

В общем пока что следуя этому плану и немного добавив в него, так как я понимаю, что вряд ли смогу стать полноценным data scientist-ом за короткий срок, я сейчас прошел следующие курсы:

Algorithmic Toolbox Coursera
Introduction to Computer Science and Programming Using Python (edx)
Intro to Machine Learning (udacity)
Data Analysis with R (udacity)
Machine Learning (coursera Andrew Ng)

В процессе прохождения -

Algorithms II
Neural Networks for Machine Learning (coursera)
Introduction to Computational Thinking and Data Science (edx)
Machine Learning with Text in Python http://www.dataschool.io/learn/ - стоит $500 баксов, но я если честно уже жалею немного что заплатил.

Нет, парень, что его ведет сделал очень большую работу и к тому же честно просматривает домашку, что ему сдают, дает свои комментарии и старается помочь, просто все, что он дает довольно просто.

еще раз - я ниде не говорю, что я в чем-то специалист. Я начинающий, и буду рассказывать о своем пути, пробах, ошибках и так далее, если вам интересно, следите, участвуйте, рассказывайте о своих успехах. Но я верю в несколько очевидных для меня вещей:

1. Покер мертв или скоро умрет совсем. Работать за 15 баксов в час это просто убого и скучно.
2. Покер скучен и неинтересн для любого человека с хоть каким-то кругозором
3. Мир интересен и удивителен вокруг нас - не бойтесь пробовать.
4. Человечество должно быть уничтожено.

Цитата (qetou @ 5.3.2017)
Тоже хотелось бы подробностей. На какую позицию, как проходило интервью, чем будешь заниматься?

Сделали оффер - денег очень мало - $55, но а) я джуниор б) мне как-то пофиг вообще в) больше бы я не взял бы, не считаю честным. Мне надо учиться. Менеджер, что собеседовал оказалось какой-то монстр вообще судя по тому, что я нагуглил потом.
В основном говорили про покер и блекджек, до алгоримов дело практически не дошло, как не странно. Я прихожу к выводу, что в этом деле важнее что ты за человек, чем что конкретно ты знаешь, т.к. если есть желание и мотивация можно что угодно выучить.

Чем заниматься буду пока непонятно, сам проект это если очень просто big data analytics - проходят миллионы транзакция в минуту и надо их анализировать, искать паттерны и проч. фигня. Подробнее не могу, подписал NDA, но это оч. близко к идеальному проекту, в котором бы хотелось участвовать.

Буду писать апдейты.

Zedmor, Не стоит первым оскорблять людей. И уж тем более не стоит это делать, если ты человека забанил.

Вот и все.

Сегодня, я надеюсь (надеюсь!) сыграл последнюю покерную сессию. Нет смысла, игры гавно, играть 2/5 не хочется совсем. Ну и еще вот по этому поводу:

Цитата
We are going to make an offer imminently.

It's on Anthony and Jeremy to outline work in advance and determine a possible start date.

Так что отправляюсь в неиллюзорный коворкинг, буду писать письма (может быть), пожелайте удачи на заводе ;)

Цитата (Zedmor @ 27.10.2016)
p.s. а да, мудак из темы выпилен, надеюсь, никто не в обиде.

Чет перегиб, как по мне... Ну потроллили тебя (а чего еще ожидать, открывая дневник про ИИ на покерном форуме, лол), но не хамили же?
После такого, даже если здесь чудом найдется кто-то реально шарящий в

Цитата (Zedmor @ 27.10.2016)
Может кто-то разбирающийся в теме написать можно ли сравнивать xFLOPSы GPU и CPU?

то 10 раз подумает, а стоит ли писать вообще?

Цитата (Sharpness @ 27.10.2016)
Такая же, как у Соула и Авирекса была со спутниками:


Полгода научно-популярных мотивирующийх статей и видосов... Искусственный интеллект уже испугался!

блядь, откуда столько желчи.

Я прошел уже около 40-50 разных курсов по программированию но тут наткнулся на нечто запредельное. https://classroom.udacity.com/courses/cs212

только в сердине пришло в голову погуглить профа - все встало на свои места. Теперь МИТ курс по линейке - на втором месте ;)

https://www.youtube.com/playlist?list=PLE7DDD91010BC51F8

Вот, кстати, совершенно очевидно почему традицонная система образования помрет лет уже через 5, наверное. Те предметы, которые мне в универе казались адом и скукой (из-за чего я собственно в покер ушел) в изложении гениальных профов просто совсем другое дело.

ппц менджмент времени! встать в 7.00 помыться собрать мелочь за 20 минут с кашей ланчбоксом отвезти туда-сюда, стартовать ровно в 8.00 приехать на работу ровно в 9.00 два митинга ппц по нагрузке, прилаживание питон-приложения к континуус интегрейшн, что делается непросто, еще митинг, стартовать ровно 4.50, приехать домой в 5.50, не врезавшись в веселых драйверов филадельфии, забрать мелочь ровно в 6.00 налаживать сломавшийся сетевой интерфейс на ноуте.. you know... business as usual

Но! Есть и хорошие новости:

https://forum.gipsyteam.ru/index.php?viewtopic=124967

всего 3 года назад эта хуйня довела меня чуть не до депрессии. Всем кто остался в покере - не надо переживать как люди в том топике, валите побыстрее. Мир он большой, все будет хорошо! Поверьте!

О, мне заплатили первую зарплату ;) Пока не выгнали ;))) В основной занимаюсь cont integration, тестами и кусочками на питоне - ощущения, конечно, как пить из пожарного шланга, но потихоньку справляюсь..
Сегодня переезжали в огромный офис человек на 40, будем надеяться, что деньги не кончатся раньше, чем мы таки сделаем продукт ;) Одна команда продавцов уже 4 человека. Кошмар.

Zedmor, Аким, все отлично, один вопрос - клаве почему 25 лет?))

Цитата (inner @ 5.3.2017)
Давай подробней, с цифрами )

Все будет ;) (ну кроме цифр) - вот оффер нарисуют, я его приму и расскажу. Вообще зарплата не очень меня интересует - меня больше интересует учиться и вырасти за 2-3 года до того, чтобы быть толковым менеджером in code - чтобы самому можно было организовывать всякое и этим всяким управлять с голвой, для этого надо учиться, учиться и учиться. Проект очень интересный технически. Я пока не знаю, что можно рассказать так как подписал NDA.
Спасибо большое за поддержку всем ;)))

Поделюсь своим опытом прохождения ML курсов.
https://www.coursera.org/specializations/machine-learning
специализация отличная, но я вижу такую проблему:
По сути там каждый курс описывает некоторый набор методов, которыми решаются определенные типы задач:
Regression, Classification, Clustering, Recommender Systems, Deep Learning. При этом методы мало связаны друг с другом. Практических заданий по каждому методу довольно мало, а реальных задач которые решаются этими методоми там совсем не показывают.
В итоге когда мы проходим всю специализацию, то у нас есть представление обо всем, но Regression мы уже забывать начали и как решать реальные задачи представляем очень плохо и вообще непонятно что дальше со всем этим делать.

Я выбрал такой подход:
записываемся одновременно на
https://www.coursera.org/specializations/machine-learning
https://www.coursera.org/learn/vvedenie-mashinnoe-obuchenie
https://www.coursera.org/specializations/machine-learning-data-analysis
и изучаем только то что связано с Regression. В первой специализации - первые 2 курса, в третьем - тоже первые 2.
Теоретическая информация там повторяется, но практических задач мы решаем в 3 раза больше чем если бы проходили только одну специализацию.
В русскоязычных специализациях практических задач (где нужно что-то запрограммировать) больше, задачи сложнее и интереснее если сравнивать со специализацией от University of Washington.

Дальше мы идем сюда:
https://www.kaggle.com/competitions
и выбираем Competitions в которых для решения применялась регрессия и в которых решения есть в паблике.
пример:
https://www.kaggle.com/c/house-prices-advanced-regression-techniques
Если перейти на Kernels - увидим скрипты с решениями (в основном Python и R).
Сначала безуспешно пытаемся решить задачу самостоятельно. Потом начинаем смотреть различные решения в попытках понять - почему оно все работает.
Через несколько итераций мы начинаем детально понимать как применять Regression-методы для реальных задач. Как следствие у нас растет мотивация для дальнейшего изучения ML - мы в чем-то детально разобрались и умеем решать реальные задачи.

Дальше изучаем курсеровские курсы связанные с Classification и повторяем итерацию с Kaggle.

PS. топик отличный. политику банов поддерживаю обеими руками.

Цитата (Algoritmik @ 29.4.2017)
Спасибо за линк, отличное обсуждение, хоть, мне кажется, автор вопроса там ушел в тех же сомнениях, с какими и прешел. Особенно понравилоась фраза - "You aren't exactly creating, more like using pre-made stuff". В принципе, это и есть ответ, который я искал!

Zedmor, я начал твой блог тут читать с самого начала, и мне казалось, что ты как раз собирался двигаться в сторону data science, нежели заниматься датабазами. Почему решил отойти от первоначального плана?

Ответ очень простой - я недосаточно умен. Я знаком с некоторыми учеными-математиками, а ML будучи ученым это довольно продвинутая математика, и могу сказать что мне это тяжело и противно. А вот т.н. tinkering - такое хакерство - разобраться в фреймворке, что-то сделать на нем, выучить какую-то технологию, внедрить - это мне очень нравится. Я по складу ума инженер, а не ученый, мне тяжело дается создавать знания, но я очень быстро могу разобраться в новом и меня не бесит освоить какую-то новую технологию. Поэтому я себя вижу инженером.
Ну и кроме склада ума надо все же трезво рассматривать себя как джуниора пока что, а поэтому это работа выбирает меня а не я ее. И моя основная цель на сейчас это изменить.

Вот мой примерный план:

1. В зависимости от того как пойдет эта компания дорасти до того, чтобы получить возможность устоиться на работу инфраструктурынм инженером или просто софт. инженером в область связанную с data - у нас есть комкаст тут из крупных игроков, там очень много machine learning делается. То есть задача выбирать самому где работать, а не где меня возьмут. То есть если этот стартап не прогорит (а тут шансы 20/80 примерно что получится), то есть мы андердоги, но это нормально, то тут значит будет развитие.

2. С этого уровня подняться до менеджерского, в малой группе. Я вижу себя через 2-3 года как человек отвечающий за инфраструктуру в группе из 2-3 человек. С другой стороны с современными тенденциями (DevOps движение, infrastructure as code) грань между разработчиками и Ops размывается что хорошо. В общем да - начать через 2-3 года работать как менеджер in code.

3. 5-7 лет уже претендовать на менеджерские позиции в серьезных компаниях или организовывать что-то свое. Я сейчас много общаюсь со "стартаперами" - наш город начал предпринимать серьезные усилия, чтобы перетянуть стартапы из НьюЙорка, т.к. там дорого, в общем я не хочу просто тупо сжигать деньги инвесторов на какую-то херню, я хочу делать что-то полезное с шансами на выживание. Ну или участвовать в таковом.

Вообще погрузившить глубже я уже не вижу ничего особенного в machine learning и AI - ну алгоритмы, ну чего такого? Что мы алгоритмов не видели? Магия чутка исчезла.

В качестве прикола хочу сказать что ощущения от 8 терминалов и 4х окон intellij с необходиостью помнить в голове примерные конфигурации 7и репозиторий, конфиги серверов и пр. примерно такие же как от онлайн покера. Я думаю, многие кто не уходит из покера в soft dev делают большую ошибку, т.к. разницы по ощущениям почти нет.

Эй, чего дядьку заминусовали? Здоровый скептицизм в таком деле лучше, чем десяток бананово-ванильных постов в духе "ты сможешь все, мы в тебя верим".
И да, аналогия с Соулом очень хорошая.