Эпистемологическая ответственность

Или как правильно собирать черные ящички

Posted by snakers41 on April 22, 2017



Отличная иллюстрация - dropout в нейросетях (2017) - оно работает, причем качественно, но никто не знает почему наверняка оно работает. Работает - не трожь!


Недавно смотрел цикл видео на ютубе про философию простыми словами. Глаз зацепился за термин "'эпистемологическая ответственность", который сводится примерно к тому, что мы должны нести ответственность за то, во что верим и какие идеи используем. Если ты считаешь, что 2+2=4, не имея на это правильного обоснования, то по идее, ты не имеешь права так считать, и ты неправ.

Как же так, в мире огромного числа черных ящиков надо использовать только то, что ты лично смог разобрать до уровни винтика? Получается, что 90% программистов, менеджеров, управленцев, математиков занимаются самообманом? 99% людей, которые стакают черные ящики на Kaggle - глупцы и обманщики? Опен-сорс и библиотеки - зло? То, как работает наука во многих сферах - тоже шарлатанство?  Не совсем там. Таким образом даже сотовым телефоном пользоваться нельзя =).

Дьявол, естественно кроется в деталях.

Начать стоит с простого будильника. Если вы не инженер, то вы не сможете разобрать и собрать его (только разобрать сможете =) ). Но это не мешает вам в реальной жизни использовать будильник, потому что у вас есть некая ментальная эмпирическая модель работы такого будильника по опыту общения с ним. Если будильник не работает, то обычный человек достаточно быстро может понять какой тип компонента вышел из строя (особенно, если будильник механический).

Отличная статья на тему - считать ли эмпирические модели труЪ? Если они точнее, проще в производстве, полезнее итд итп? Закон больших числе беспощаден.

С математикой, программированием и сложными абстракциями дело обстоит примерно также. Чтобы пользоваться чем-то, в идеале нужно хотя бы на уровне концепции понимать систему на уровень минус 1 или минус 2. Используете градиентный спуск? Необязательно с нуля все писать на своем любимом языке программирования, но вы просто обязаны изучить такие вещи как производные, интегралы, линейную алгебру хотя бы на уровне основных понятий и свойств.




Мы уже истерим про сложность мира. А каково ей?


Все это начинает мутировать, когда мы начинаем сталкиваться с вещами, лежащими на грани человеческой науки и восприятия. Просто прочитайте цитату из книги про нейросети.


Это вам не 1С-программисты обсирающие друг друга на форумах. Умные люди, понимают, что с эвристиками надо аккуратно.


А теперь попробуйте наложить на это все продаванство, ложь и bullshit, который царит в политике, маркетинге и в любых новых отраслях. В бизнесе, в науке, в образовании. Наложите на это человеческую мелочность, амбиции, нетерпимость и нежелание объяснять сложные вещи просто, элитизм и комплексы людей, которых обижали в детстве. Становится также неуютно, потому что многие вещи В ПРИНЦИПЕ появились очень недавно. Люди, конечно, очень хороши в складывании вещей в уровни абстракций, но это не всегда получается.

Вот отличная иллюстрация


Кажется, что график обучения алгоритма насытился


Но если взять логарифм, то он продолжает развиваться, просто абсолютно на другом уровне абстракции - нужно на порядки больше данных.



Какие-то вещи становятся понятными только при особенных обстоятельствах - поэтому суждения тяжело делать, не зная реальной истины.


Люди всегда были хороши со складыванием коробочек в коробочку. Вопрос только в том, как это делать в современном мире, когда число коробочек в коробочке растет экспоненциально даже в тривиальных областях. И вообще в каком случае мы имеем право гордиться использованием этих коробочек?

  • Если я нашел что-то интересное, используя чужой код?
  • Если я продаю что-то кому-то, не понимая что внутри и не хочу потом нести ответственности, если оно развалилось?
  • Если я хочу получить модель для небольшого числа данных, но почему-то я хочу очень сложную модель?
  • Если я делаю исследования, насколько я должен погрузиться в математику?
  • Если я коммерсант, то как вообще правильно относиться к своим клиентам, я ведь не понимаю, что внутри моего товара?

Как мне кажется, гордиться и продавать можно начинать когда

  1. Вы разобрались с точностью до уровня или нескольких уровней абстракции;
  2. Вы знаете основные понятия, там где вы не разобрались;
  3. Вы готовы быстро в случае потребности погрузиться на недостающие уровни;
  4. Если вы чего-то не понимаете, вы заменяете это любознательностью, а не "бычкой";





Рассуждение на очень похожую тему.