text:
강산의빛바램학습과학의발전을위한프로그램: 계산학습, 기계학습, 신경과학정보과학의철학에관한서신, 학습과학으로의전환을향하여: 수학철학, 컴퓨터과학철학, 컴퓨터학습철학, 신경과학철학저자: 수학자 (더이상은아닐)

학생에게보내는편지: 코드와아케다 [성서의이삭번제] - 모든것이연결되어있다 (학습과관련하여) (출처)

수학의학습적철학당신은수학철학이흥미롭지않다고생각하지만, 사실이것이야말로가장흥미로운것입니다. 학습을수학의기초로삼았어야했습니다. 증명을쓰는것이아니라증명을학습하는것이중요합니다. 왜냐하면수학적구성은본질적으로논리적구성이아니라(이는단지그것의언어적표면일뿐입니다) 학습적구성이기때문입니다. 신경과학의중심적문제는뇌를하나의주체로생각하는것입니다. 대신뇌 안에서경쟁이있다는것을이해해야합니다 - 생각들사이의, 모듈들사이의(예를들어주의력과결정에관한), 다양한기억들사이의, 뉴런들사이의, 그리고이 문장의다양한연속들사이의경쟁입니다(그리고이 경쟁은경제적또는정치적경쟁과유사하며, 민주주의나자본주의또는중국의능력주의와같은학습시스템을구축하고, 이것이그들의승리의근원입니다). 마찬가지로수학의중심적문제는그것이자신의다양한주체들, 즉수학을학습하는수학자들을개념화하지않는다는것이며, 수학아래에있는학습을전혀개념화하지않는다는것입니다(과거에수학아래의논리를개념화하지않았던것처럼, 그리고나서프레게가논리를수학의기초로만들었듯이, 논리아래에있는것 - 그것을작동시키고, 이후에수학의기초가될 것 - 그것이바로수학적학습입니다). 더욱이 - 학습은수학에서모든것이그 위에세워지는기본개념들을정의하는도구가되어야합니다: 극한, 군, 위상, 공간, 증명, 집합, 소수, 확률, 함수, 연속등. 그래서수학에대한학습적재구성, 공리화, 그리고새로운해석이필요합니다(양자역학의가능한학습적해석처럼, 다른해석들중에서). 수학의조합과구성특성 - 특히대수학에서 - 은학습성에서비롯되며, 이를기반으로해야합니다. 예를들어당신이이미 a, b를블랙박스로하는방법을배웠다고가정해봅시다. 이함수를가지고있다는것은무엇을의미할까요? 예를들어증명을안다는것은무엇을의미할까요? 이것을사용해서어떻게 c에도달하는것을배우나요? 단순히함수가있다고말할수 없는단계가올 것입니다. 하지만브라우어의직관주의나형식주의의공리적-계산적구성과는달리, 당신이제공해야할 구성은학습적입니다: 어떻게그 함수를배웠는지입니다. 그리고설령그 함수가이미당신안에존재한다하더라도(예를들어당신뇌의신경학에서), 블랙박스로서, 그것을안다는것은그것을사용하는것을의미하지않습니다. 즉, 입력에대한그것의답을줄 수있는능력이아니라, 아는것의의미는그것을통해학습할수 있는능력입니다. 다시말해이 블랙박스(당신이이해하지못하는)로부터적절한학습의연속을구성하는것입니다. 증명을아는것이그것을인용하고가정에서결론에도달하는능력이아니라(증명끝), 그것으로부터추가적인증명들을구성할수 있는능력, 즉그것을통해계속학습할수 있는능력인것처럼말입니다. 그리고증명을이해한다는것은그 안에서무언가를이해하는것이아니라(예를들어그 연속성안에서), 그것으로부터추가적인증명들을구축하는방법을이해하는것입니다(비트겐슈타인처럼단순히기존시스템에서 "사용"하는것이아니라, 그것으로부터시스템의연속을구축하고시스템을발전시키는것, 마치화자가아닌시인이언어를사용하는것처럼, 즉 "사용자"가아닌프로그래머가컴퓨터를사용하는것처럼). 그리고여기서우리는예를들어신경망과유전알고리즘사이의유사성에주목합니다. 뉴런에서구성은주로숫자들의연결과조합입니다(즉, 선형조합 - 가장단순한조합 - 의함수들, 그위에최소한의필요한비선형성만있음), 반면진화에서구성은부분들의연결과조합입니다(실제로, 이는두 문장 - 두게놈의언어적조합으로, 일부단어는첫 번째에서오고일부는두 번째에서옵니다. 그리고마지막으로수렴후에는 - 문장들이매우비슷해지고그들사이에약간의변형만있어서, 문장이여전히의미가있습니다. "정원사가곡물을정원에서길렀다"가 "정원사가밀을정원에서길렀다"와교배합니다. 그리고그들의자손은 "정원사가곡물을정원에서길렀다"입니다). 따라서두 구성및 건설메커니즘사이의구체적인차이를넘어서서, 즉하나는양적크기의조합이고다른하나는텍스트-언어적조합이라는차이를넘어서서, 뉴런학습과진화사이에는깊은유사성이있습니다: 세대는층입니다. 기본적인학습구성요소들은각 단계에서매우많으며, 또한학습을만들기위해서로위에깊게(즉, 매우많이) 쌓입니다. 진화는본질적으로심층학습이며, 이자연스러운유사성을부인할수 없습니다. 즉, 우리는자연에서구성이학습에기본적이라는것을봅니다 - 비록세상에는다른구성기술들이있을수 있지만(덧셈, 곱셈, 문자열연결, 다른코드섹션을함수로호출하는것 등) - 그리고이는논리적이고수학적인구성에서도마찬가지입니다. 논리에서도조합으로부터생성되는많은구성층이있기때문입니다(구성에는두 가지차원이있습니다. 이전의두 가지이상을결합하기때문에 - 수평적차원 - 그것들로부터새로운것을만들어내기때문입니다 - 수직적차원. 즉, 구성은아래로의다중성과옆의가능성들의다중성모두에서생성됩니다. 벽돌벽처럼). 그리고수학을학습위에서새롭게정의하는프로젝트로돌아가면, 우리는이 프로그램(랑글랜즈프로그램에비유할수 있는수학기초의학습적프로그램)이본질적으로구성적인대수학뿐만아니라해석학에도적합하다는것을알 수있습니다. 실제로, 대수학에서구성은기본적이며, 바로그렇기때문에그 안의기본적인구성질문들은학습적관점에서이득을볼 것입니다. 예를들어소수란무엇입니까? 숫자를구성하는두 가지방법의충돌입니다: 하나는덧셈으로 - 다른하나는곱셈으로. 이것이수수께끼의근원이며(리만가설을비유적으로), 그해결은새로운개념화를통해올 것입니다: 그것들을구성하는것을배우는것. 소수를배우는것 - 이것이리만가설로가는왕도입니다. 그리고이렇게군을구성하는것을배울수 있습니다. 또는집합을배울수 있습니다(또는그래프, 또는게임, 또는행렬). 그리고해석학에서, 극한이란무엇을의미합니까? 측정을통해접근한다는것 - 이것이아는것을의미합니다. 그리고위상은극한의일반화입니다. 극한은학습메커니즘이며, 그것이성공할때, 학습이가능할때(즉, 접근할수록무엇에접근하는지배울수 있을때), 그것은연속입니다. 그리고학습할수 없을때 - 그것은불연속입니다. 그리고이 학습메커니즘자체는연속의위상에서나옵니다. 즉, 위상학에서학습은극한정의의기초가아닌더 추상적인일반화이며, 극한은그것의특별한예입니다. 학습메커니즘자체(연속의)를보고그것으로부터정의를시작할때 - 이것이위상학입니다(필터나열린/닫힌집합을통한정의, 또는다른현대적제안들을대신하여). 그리고해석학에서, 우리는방법론의아이디어를통해도함수를정의하거나, 도함수의아이디어의일반화로서방법론을정의할수 있습니다. 이것이학습의학습입니다.

컴퓨터과학의학습적철학같은방식으로, 학습적기초위에분야를구축하는유사한과정을컴퓨터과학에서도할 수있습니다(그리고이를통해마침내컴퓨터과학철학이라는분야를진지하게설립할수 있습니다). 계산이란무엇입니까: 함수가어떻게거기에도달했는가? (당신은더 이상단순히정의할수 없고그것은구성적이어야만합니다 - 계산가능). 그렇다면, 학습이란무엇입니까: 계산이어떻게거기에도달했는가? (당신은어떻게알고리즘을구축했는지, 즉어떻게그것을배웠는지설명해야합니다. 이전에함수를어떻게구축했는지설명해야했던것처럼. 이것은구성성의구성성입니다). 그렇다면, 함수로돌아가면, 필요한것은: 함수를계산하는것을배우는것입니다. 증명은구성입니다. 그리고학습은어떻게구성하는지입니다. 구성자체를구성하는것. 따라서다음대수적단계는학습에서의덧셈과곱셈이될 것이며, 이는덧셈과곱셈의일반화가될 것이고, 따라서학습을통해우리는알고리즘의덧셈과곱셈을정의할수 있을것입니다. 그리고이것들은곱셈(다항식의경우루프에서의호출)과덧셈(알고리즘후 알고리즘실행)의일반화가될 것이며, 학습적구성에서그렇게될 것입니다. 그리고재귀는거듭제곱의일반화가될 것입니다. 그리고조건문은일종의덧셈입니다. 튜링의계산세계에서, 무한과점근적인것은해석학이었고, 연산들은대수학이었습니다. 그리고이제우리는무한을더하고싶은문제에직면해있습니다. 즉, 극한을향해학습하는시스템들을더하는것입니다. 이는무한급수의덧셈이라는문제와매우유사한역사적문제이며, 이는미적분학의근원에있었습니다. 학습구성요소들은항상최적값에접근하고있으며, 이것이연속적인부분, 최적화의부분입니다. 그리고다른한편으로그들은대수적으로서로와함께/위에구성되어있으며, 이것이이산적인부분, 검색과변이의부분, 즉계산적으로비싼부분입니다. 이것을일반적으로하는방법이없다면 - 조합이있습니다. 즉, 이것은무차별대입검색입니다. 따라서우리는지수성이본질적으로무차별대입과문제를이해하고해결할수 없음의표현이며, 단지그것을공식화할수만있다는것을이해해야합니다. 그것의의미는: 해결하는방법을모른다는것. 즉: 우리가수학에서알고있는모든기본적인대수적연산들아래에는, 덧셈과곱셈과거듭제곱과같은, 더깊은무언가가있으며, 그것은계산적이고, 심지어 (그아래) 학습적입니다. 그리고그것은현재단순히실행시간의함수로서외부적으로나타나고있을뿐입니다. 거듭제곱은본질적으로모든가능성공간에서의검색입니다. 이것은언어이지학습이아닙니다. 언어는모든가능한조합이고, 학습은가능성들의수렴이며, 따라서특정한해결책을가능하게합니다. 특정한문장을. 세상의어떤문장도결코언어에의해쓰이지않았습니다 - 그들은모두학습에의해쓰입니다.

알고리즘의철학함수나알고리즘을배웠나요? 해석학의극한과비슷하다는것을주목하세요 - 거기에함수가있습니다(그것이극한입니다). 그리고엡실론과델타대신에, 여기에는교사와학생사이의상호작용이있습니다. 학생은극한을향해나아가고(그것이그의지평선입니다), 교사는극한에서측정자의위치에서 있습니다. 예를들어특정지점에서함수의결과에얼마나가까이왔는지묻습니다. 즉, 교사의측면, 성공을측정하는측면, 당신의수렴을판단하는측면은 NP의기준과같습니다. 그리고 NP의문제는무엇입니까? 그것은해석학의연속극한과정확히반대입니다. 왜냐하면이러한문제들에서는성공의부분적측정이목표달성에전혀도움이되지않고, 학습을돕지않기때문입니다. 즉, 당신은학생으로서성공할수 없습니다. 목표에도달할수 있게하는길의지침이없습니다. 학습은할 수있는것들로부터할 수없는것을구축하는과정입니다. 그리고이 모든것은평가기준에대해서입니다. 그리고만약평가가외부적이아닌내부적기준이라면, 그것이바로방법 - 즉방법론입니다. 하지만만약전혀내부적기준이없고오직외부적기준만있다면? 그러면당신은 NP에있는것입니다. 알고리즘을배울때, 그것을예시로부터의학습또는시연으로부터의학습으로정의하는것이맞습니까? 즉, 무엇을학습하는것인지또는어떻게학습하는것인지로? 당신은특정경우에배우는함수의입력과출력값만받는것입니까, 아니면특정입력-출력경우에서함수의구성적구축을받는것입니까? 답은둘 다여야합니다. 왜냐하면학습은정확히이전함수들로부터구축된함수의분해이며, 이것이바로시연이지만, 각단계에서어떤조합을만들지선택하는것은예시에달려있기때문입니다(증명이예시입니까아니면시연입니까?). 그렇다면, NP는검사하기는쉽지만 - 학습하기는어려운(즉, 가르칠수 없는 - 교사가될 수없는) 문제들입니다. 그리고이는소수문제에서도정확히마찬가지입니다. 질문은당신이얼마나그것들을배울수 없는지, 얼마나그것들이예측불가능한지입니다(확률, 이것도학습을통해새롭게정의할수 있습니다). 이것이리만가설의본질입니다(그리고따라서일방향함수로서의소수인수분해문제와깊은관련이있을것으로예상됩니다). 소수에서의학습이란무엇입니까? 자연수수열에서도달한각 소수에서, 당신이이미알고있는것은그 이전의모든소수들로부터곱셈을통해수를구축하는것입니다. 즉그것(다음소수)은당신이배우지않았고배워야하는것이며, 깊은질문은당신의학습능력이본질적으로얼마나제한되어있는가입니다. 만약학습적구성이이전수들의곱셈을통한수의구성이라면말입니다. 즉: 수학에서가장중요한두 가설에는그들의본질을건드리는학습적공식화가존재합니다 - 그리고이것이우리가언어적사고, 즉매우원시적이고조합적인종류의구성(자연수와알고리즘모두의)에부딪히지않았다면그들의해결로가는길이었어야했습니다. 둘다에서우리는특정현상이학습하기어렵다는것을증명해야합니다 - 즉무엇을배울수 없는지찾아야합니다. 수학의역사에서우리는어떻게접근해야할지전혀몰랐던기본적인가설들을해결했습니다(무리수의존재, 원의정사각형화, 5차방정식, 괴델의정리등) 항상이러한새로운구성을통해서였습니다. 이는현상을포착하는데성공했고 - 그후에그것을통해무엇을구성할수 없는지증명했습니다. 이모든것들이무엇을할 수없는지에대한문제들이었다는것에주목하세요(피타고라스학파에서무리수의존재는자연수를통해비율로그것을구성할수 없다는것이었습니다. 비록문제가긍정적인형태로표현되었지만), 왜냐하면수학에서더 깊은문제들은항상불가능성의문제들이기때문입니다. 정확히수학이구성이기때문에 - 그것은무엇을구성할수 없는지보여줘야할 때깨진물동이앞에서게됩니다(그리고무엇을할 수있는지는덜 중요합니다 - 왜냐하면그것은단순히구성하면되기때문입니다). 따라서오늘날의두 가지주요한불가능성문제들, NP와리만을진전시키기위해서는, 학습의수학적정의와그로부터나오는구성을만들어야합니다 - 그리고나서그러한구성이불가능하다는것을증명해야합니다. 왜냐하면그것을배울수 없기때문입니다(다른말로하면: 학습은그것이배우는수학적구조를표현할수 있고표현해야하며, 배울수 없는것 때문에그것에제한을가해야합니다 - 이는수학적학습이론에서도출될것입니다 - 그리고이를통해그것의가능성의한계를증명해야합니다). 그리고 NP 대 P 문제에관해서, 우리는배우는것이, 일반적인의미에서, 필연적으로어렵고, 비효율적이며, 다항식적이지않다는것에주목해야합니다. 그리고사실아마도증명하기에충분한것은배우는것이어려운문제라는것입니다. 왜냐하면우리가올바르게배웠는지확인하기는쉽기때문입니다. 예시들에따라서. 이것자체가 NP 문제입니다. 즉, 만약효율적인일반학습알고리즘이있다면 - 모순에도달해야합니다(이러한부조리로의유도는만약학습문제를해결할수 있다면, 모든것을쉽게해결할수 있다는것입니다. 왜냐하면학습은먼저해결알고리즘을배울수 있고, 그리고이러한상황에서는학습문제자체를해결하는것도배울수 있기때문입니다. 그래서어떤최소한의학습알고리즘에도달할때까지계속됩니다. 하지만그것도배워집니다. 게다가, 이러한상황에서는, NP 문제를해결하는 P의알고리즘에대한최소다항식지수가있고, 그러면구성적학습의특성들때문에, 그것아래의알고리즘도, 즉새로운것이그것을통해구축되고더 낮은다항식지수를가진것도, NP 문제를해결한다는것을보여줘야합니다. 또는, 해결책을구성하는블록들사이에서정보를나누고, 부조리함으로귀납법을통해내려가야합니다. NP 문제의해결책은모든정보에의존하고, 거기에는분할정복이없다는아이디어의공식화를통해서, 적어도학습적구성에서는말입니다. 다항식성자체는학습이구성적이라는사실에서나옵니다. 그리고두 가지기본적인구성들은알고리즘들의결합과, 루프에서의호출입니다. 즉덧셈과곱셈이고, 따라서 P에서의다항식이나옵니다. 즉효율성과해결의용이성의정의가정확히이것인이유에대한설명입니다). 수학에서기본적인것들이항상어떻게든이산적이고무한한과정이라는것에주목하세요: 소수들, 극한, 계산, 논리... 그리고학습에서도그럴것입니다. 사실, 학습은그것들아래에있기때문에이 현상의원인입니다. 어떤경우든, 이공통된특성으로부터, 그것들을다루고새로운수학적패러다임으로돌파할수 있는능력이나옵니다. 이는언어를넘어서는것입니다(이것이현재의수학적패러다임입니다). 그리고나서우리는 NP 문제가실제로얼마나학습문제인지주목하게됩니다(이는잘못되게언어를통해개념화되었고, 따라서그것에적합한언어가없는것이되었거나, 심지어그 해결책을파악하기시작할수도없는것이되었습니다). 그러면우리는왜 학습을통한개념화가그것의자연스러운해결방향이라는것을이해하지못했는지이해하지못할것입니다. 왜냐하면학습적관점을통해, 우리는 NP가진화와유사하다는것도보기때문입니다. 여기서학습은메커니즘입니다(교배와돌연변이)가생존과적합성시험과맞서싸우는데, 생명체를만들고그것에서혁신하기는매우어렵지만, 그것이생존하는지아닌지확인하기는매우쉽습니다. 생물학은항상그것의노력을쉽게판단하는잔인한자연에대해어려운학습위치에있습니다. 그리고여기서, 학습을향한길에서, 우리는아름다움이안내에서역할을한다는것을봅니다. 생물학이누가더 적합하고덜 적합한지지름길을통해추측할수 있도록말입니다. 그리고수학에서도마찬가지입니다. 증명의어려운기준은아름다움의부드러운기준과함께갑니다. 이는수학자들이수학을하고수학적학습에서진보할수 있게해줍니다. 비록이것이원칙적으로어려운문제임에도불구하고말입니다. 그리고우리의사고도아름다운움직임에의존합니다. 그리고이렇게우리는철학도판단합니다.

복잡성이론의철학평가는어떻게수행됩니까: 학습의정의의일부로서많은평가계층이있나요, 아니면 NP에서처럼끝에하나만있나요? 거기서는평가계층으로분해할수 없습니다. 음, 두가지자연스러운학습의예시가학습이무엇인지이해하는데 도움이됩니다 - 뇌와진화 - 그리고이들에는무한한평가계층이있으며, 실제로각 계층(또는세대)에서이전것을평가합니다(따라서여성들은진화에서숨겨진계층입니다 - 네트워크의 - 즉각 세대를심층네트워크로만드는것입니다. 입력과출력사이의내부평가계층으로서, 즉자녀들입니다). 이와같이, 같은방식으로, 극한과자연수는우리가연속과이산영역에서수학의일반화된학습개념이무엇인지이해하는데 도움이됩니다(그리고뇌의학습은연속적이고, 진화의학습은이산적입니다). 하지만이 추상화자체를넘어서서, 이는수학의모든부분에공통된깊은내용을반영합니다(수학의내용으로서의학습). 우리는또한수학의형태로서의학습을찾을수 있습니다. 수학자체아래에무엇이있는가: 어떻게수학을배우는가. 예를들어: 수학자를정의하는것. 현재, 학습알고리즘은다항식이어야한다고받아들여집니다. 하지만학습알고리즘에대한다항식성제한은일반적인경우(수학자)에서는맞지않습니다. 따라서우리는인간으로서, 뇌로서, 우리가효율적인알고리즘을가지고있는많은일들을하지만, 일반적인효율적학습은없고, 있을수도없습니다. 일반적으로, 학습은이전에배운것들을사용하여매우제한된경우에만효율적입니다. 그래서우리는학습이효율적인과정이라는환상을가지고있습니다. 우리의대부분의학습이그렇기때문입니다. 하지만그러한특별한학습을특징짓는것은그것이지식의학습이라는것입니다. 따라서우리세계의대부분의학습은지식의학습입니다. 새로운행동과알고리즘의학습은항상비효율적이기때문입니다. 그렇다면, 지식이란무엇입니까? 효율적인학습알고리즘이있을때입니다. 이것이그것의정의입니다. 우리가배우는거의모든것이다른사람들이할 줄아는것들이라는점에주목하세요. 즉우리는준비된함수들을사용하고, 그것들로부터구축하며, 우리의학습을준비된함수들로분해할수 있습니다. 따라서, 학습을그것을만든계층들의구축으로분해할때, 문제를하위문제들로분해하는모든가능한분해들의공간자체의구조에대해생각해야합니다. 하지만, 교사로부터의모든학습정의는 "시스템내부" 문제를극복해야합니다. 즉도움이외부에서학생을프로그래밍하고그들사이의속임수와공모가되지않도록해야합니다. 하지만분해가최대분해라면, 즉너무작은조각들로나눈다면, 그것은정확히프로그래밍과같습니다. 이상적인분해를특징지을수 있을까요? 프로그래밍과동등한완전한부스러기로의분해(최대분해)와 NP 문제(최소분해, 거기서는끝에만시험관이있고중간에평가가없습니다) 사이의중간에있는것으로서말입니다? 교사가없다면, 진화처럼이전알고리즘들을기반으로하고이전증명들을기반으로하는수학처럼발전이있습니다. 그러면문제를하위문제들로나누는것이자연스럽습니다. 누군가가그것을나누는것이아니기때문입니다. 최대분해는알고리즘입니다, 쓰여진코드로서, 그리고최소는문제자체입니다, 평가자로서 - 그리고중간에학습은그것들을연결하는것입니다. 즉이 문제에서알고리즘으로의이행이바로학습과정입니다. 즉: 더많은분할을추가하는것(위에서아래로일때, 교사의관점에서) 또는더 많은구축결합을추가하는것(아래에서위로일때, 학생의관점에서), 그리고학생만있고교사가없을때 이것이발전입니다, 이는자연스럽습니다. 다항식적해결책은이것을더 단순한하위문제들로분해할수 있다는것을의미합니다, 즉배울수 있다는것입니다. 따라서배울수 있는것이다항식적인것을특징짓고, 따라서학습은다항식적인것의한계를이해하는데 적합한구축입니다(즉그것을 NP와구분하는것). 왜냐하면학습은선형적인것으로부터다항식적인것의구축이기때문입니다. 즉단순히모든입력을읽을수 있게하는최소한으로부터, 따라서다항식들은자연스러운집합입니다. 따라서우리는학습가능한최소분해를찾아야합니다. 예를들어선형적하위문제들로의최소분해입니다. 최대분해는흥미롭지않습니다. 그것은코드작성과동일하기때문입니다(그리고선형적인것은물론알고리즘적영역에서가장기본적인학습블록들의한 예일뿐입니다. 그리고예를들어, 수론분야에서는곱셈에서의인수분해일수 있습니다. 또는수학의다른문제들을정의하는다른제한된함수일수 있습니다). 따라서, 우리의학습정의에서, 우리는이상적인예시선택을가정할수 있습니다(교사에의한학습을위해), 마치우리가최소분해를가정하는것처럼. 배우는것 - 그리고가르치는것도 - 계산적으로제한될필요는없고, 구축적으로제한됩니다. 그리고이전함수들을사용한구축의이 모든구조가인간의사고(예를들어논리와언어와계산과인식으로부터)와훨씬더 비슷하다는점에도주목하세요. 우리는우리가할 줄아는것들을어떻게하는지모르지만, 그것들을가지고일을할 줄압니다. 그것들을통해배웁니다. 하지만우리는어떻게배웠는지모릅니다, 그것은블랙박스입니다. 그리고우리가학습에서조합한모든함수들은우리에게블랙박스일수 있습니다. 즉: 여기에는학습의두 부분이있습니다. 한부분은배우고자하는구조를정의하고특징짓는것입니다 - 또는문제에대해하고자하는분해 - 이는함수들에대한제한입니다: 기본함수들이무엇이고그것들의허용된결합이무엇인지. 그리고여기에는다른부분이있습니다. 모든가능성중에서정확히이 구축을만드는정보가무엇인지묻는것 - 이것이예시들입니다. 교사와학생사이의공모를막기위해서는구축이특정학습알고리즘에서이루어져야하나요, 학습자의모든가능한알고리즘에서가아니라(예시들안에해결책을코딩할수 없도록)? 오캄의면도날을사용하여예시들에맞는최소길이의조합으로, 또는아마도다른단순한탐색알고리즘으로, 그러한보편적(비효율적) 알고리즘을선택할수 있습니다. 그러면문제(학습된함수)를하위문제들(하위함수들)로분해하는트리가만들어집니다. 각가지분기에서올바른결합(올바른구축)을만들기위해필요한예시들의수와함께(가지의수는그 위의가지를만드는하위함수들의수와같습니다). 그러면아마도분해의차원(자세한하위문제들로의분해처럼)과예시들의수 사이에트레이드오프가있을것입니다. 그러면트리는 NP 문제에서무한대로자랄수 있습니다. 또는구축하는하위블록들이해결책을단지근사할때(소수들처럼, 그들은큰 소수들만근사합니다. 모든자연수를펼칠수 없기때문입니다. 무한한소수들이있기때문입니다. 그러면소수들의수에비해근사가얼마나완전하고좋은지평가할수 있습니다 - 이것이리만문제입니다). 그러면이것을사용하여구축의불가능성문제들을표현할수 있습니다. 만약당신이교사의최소노력과최소예시들을요구한다면, 그러면당신이이미배운것들이있다면, 당신은다음것을배우기위한최고의최소예시들을요구합니다. 그리고이것자체가학습과정에서다음것의복잡성을줄입니다. 예를들어규칙을가르치고, 그다음추가학습에서예외를가르치는것이더 좋기때문입니다. 따라서우리에게완벽한학생과완벽한교사가있다면, 완벽한학습이어떻게보이는지물어볼것입니다. 예를들어, 교사는어떻게예시가예외라는것을표시합니까? (규칙이있기위해서, 규칙의한 예시와반대되는한 예시만있는것이아니라 - 만약그것들이동시에주어진다면, 즉연속적분해없이 - 이는실제로규칙을분해할수 있습니다. 예시들중 어느것이규칙이고어느것이예외인지어떻게알 수있겠습니까)? 음, 그는하지않습니다. 그는단순히먼저규칙을가르칩니다. 그리고나서그 후에, 다음구축계층에서, 규칙이배워진후에, 그는예외를가르칩니다. 그러면학습자가할 수있는가장짧은것은, 이미규칙인함수를가지고있다고가정하면, 그가이미배웠다면, 단순히하나의예외를추가하는것입니다(특정경우들에서). 그리고이렇게분해는예시들의수를절약할수 있습니다. 그리고분해의정보는특정경우들에서, 심지어가르치는것에있는것보다더 적은정보로학습을가능하게할 수있습니다(왜냐하면학습자료의순서자체에서교사가주는분해의정보는계산되지않기때문입니다). 이것이학습적구조주의입니다.

계산적학습의철학그렇다면, 당신은함수들/알고리즘들/오라클들의목록이있고그것들의제한된조합인함수가있으며, 당신은최고로선택된예시들로부터그것들을배웁니다. 당신에게계산적제한이없을때. 그리고교사에게도없습니다. 그리고질문은문제를하위함수들/알고리즘들로분해하면서가능한최소예시들이무엇인가입니다. 당신이오캄의면도날에따라배울때(예를들어알고리즘의복잡성, 그것의길이, 또는다른단순성기준에따라). 만약분해가무료로온다면전체예시수를보고, 그러면분해는최대가됩니다. 즉학습은가능한한 가장점진적입니다. 대안적으로, 예시들과분해사이의관계를볼 수있습니다(필요한예시들의수와주어진분해의하위문제들의수 사이의관계). 이는물론역관계입니다. 또는같은문제의다른분해트리들의다른위상들을검토할수 있습니다(얼마나많은본질적으로다른방식으로같은문제를분해할수 있나요?). 우리의목표는문제를비자명한방식으로문제들로분해하는방식으로학습트리를구축하는것입니다. 왜냐하면만약우리가최소분해를본다면, 분해가비싸고예시들이무료일때, 우리는자명한분해를얻을것입니다. 즉분해가없고, 우리는원래문제로돌아갑니다. 거기에는단지시험과예시들만있고, 이는 NP와비슷합니다. 따라서, 우리는또한이러한모든가능한분해들을볼 수있습니다. 아마도특정함수들에서무한히많은것들, 그리고그것들이어떻게서로로부터파생되는지, 그리고그러한트리들의숲의특성이무엇인지볼 수있습니다. 그리고나서분해들의수와예시들의수 사이의특정관계에있는, 분해의표준형태를찾을수 있습니다. 결국흥미로운것은예시들이나그것들의수가아니라트리구조들입니다 - 알고리즘을하위알고리즘들로분해하는것이무엇인가. 또는문제를하위문제들로. 또는정리를가능한모든증명들로분해하는것(그리고수학전체자체에대해서도증명들의그래프로생각할수 있고, 그것을그래프로서연구할수 있으며, 아마도이 그래프의구조와수학적구조들사이의연결을찾을수 있습니다). 그리고만약교사가주는분해가충분히작은하위문제들로자세히분해한다면, 아마도학습을위한효율적인알고리즘이있을것입니다(즉예시들에따른구축조합을찾는것). 그리고아마도단순한나이브탐색조차효율적일것입니다. 정말로찾기어려운것은분해이기때문입니다. 하지만만약분해가최소예시수에서나온다면(즉최소예시수가반드시최대분해를필요로하는것은아니다) 이는그것에힘을줍니다(이중적의미로). 그리고여기서우리는구축에서허용되는것을제한할때 다른구축문제들을만드는, 하위함수들의다양한결합함수들에대해생각하기시작할수 있습니다. 예를들어: 교사가준 예시를줄 함수들의선형조합만, 또는증명예시처럼증명할증명시스템, 또는군을배우는것. 이것도단순한함수입니다(덧셈). 그리고만약그것을하위문제들로분해한다면그것의모든원소들의조합보다더 적은예시들로배울수 있습니다. 그리고아마도심지어그것에있는것보다더 적은정보가예시들에있을것입니다(왜냐하면앞서말했듯이나머지정보는분해에숨겨질것이기때문입니다). 그러면우리는군에얼마나많은예시적정보가있는지, 또는다른수학적구조에얼마나많은지물을수 있고, 이것이학습적정보의정의가될 수있습니다(언어적정보와대조적으로). 왜냐하면예시들로부터의일반화는이미있는것을기반으로하지않으면정당화되지않기때문입니다(당신이이미배운함수들, 즉교사가문제를하위문제들로분해할때 처음에당신에게보여준더 단순한함수들. 이것으로부터당신은더 복잡한것을배웁니다. 아기의학습이나진화의발전처럼 - 이것이학습의기본특성입니다). 즉이미배운것을사용하라는일종의힌트가있습니다. 당신이이미아는것이당신의사전지식입니다. 그리고연속함수에서이것은극단적입니다(왜냐하면당신은불필요하게그것을복잡하게만들면안 됩니다. 그렇지않으면단순한함수들조차절대배우지못할것이고, 당신은오캄의면도날때문에먼저단순성에매여있습니다). 따라서당신이아는것으로부터의최소조합이필요합니다 - 교사가준 새로운예시를생성하는. 그리고만약당신이단순성에매여있다면이것은속임수에면역이됩니다. 왜냐하면만약공모가있다면(예를들어만약교사가예시안에학생에게필요한가중치를코딩한다면), 그러면이것은오캄의면도날조건을만족하지않습니다. 알고리즘은가장단순한것을주지않기때문에거부됩니다. 학생은임의의조합을선택할수 없고가장단순하고최소인것을선택해야합니다. 단순성에대한내부기준이있고, 이는평가하는쪽, 여성적인쪽을채웁니다(평가의중간계층들). 그리고또한조합함수가있습니다(이는특정종류의수학적구조의각 학습에서다릅니다. 예를들어: 그래프학습, 군학습, 연속함수학습 - 다항식근사나대안적으로푸리에변환등으로구축할수 있는, 알고리즘학습, 증명학습, 게임학습, 위상학습, 언어학습등). 그리고겉보기에절약되는정보 - 계산되지않는 - 는구조적입니다. 즉: 구조적분할(분해)에서나오는것이고, 따라서만약배우는것에전혀구조가없고단지잡음만있다면학습은모든정보의전달이어야할 것입니다. 즉이것은학습이아니라언어적정보의전달입니다.

기계학습의철학여기서기본적인질문은, 수학의모든역사에서반복되어온 것인데: 함수는어떻게생성되는가? 아마도그것은자연에서물리적으로생성될수 있고(존재론), 아마도그것은기하학적으로생성될수 있으며(시각), 아마도그것은인식될수 있고(이성), 아마도그것은정의될수 있으며(논리), 아마도그것은계산될수 있고, 아마도그것은학습될수 있습니다. 즉: 하위함수들로부터구축됩니다. 그리고여기서, 함수정의의부분들로부터, 오늘날컴퓨터학습에서모든주요학습연구분야가나옵니다. 학습에서함수의출처(수학적용어로도메인)가없을때 이것은강화학습입니다(그리고단순성은가장단순한함수를생성할가장단순한출처를찾습니다). 그리고함수의범위가없을때 이것은비지도학습입니다(그리고단순성은가장단순한함수를생성할가장단순한범위를찾습니다). 그리고함수의단순성이하위함수들의구축(얼마나복잡한지)뿐만아니라예시들자체로부터의구축으로도간주될때 이것은통계적학습입니다(예시들로부터의거리가단순성계산의일부입니다). 학습의정의는학습되는수학적객체를분석하고그것의내부구조를찾는것을목표로합니다. 그것의목표는계층(하위문제들로의분해)과예시들을통해그것을구축하는것입니다. 즉: 두가지유형의구조적정보를통해, 두가지구조를결합할수 있게합니다: 위에서아래로(수직적), 그리고옆에서(수평적) - 다른예시들은각 단계에서, 아래층으로부터의다른병렬조합가능성입니다. 따라서수학에서모든것은구조의부재와과잉구조사이를움직입니다. 너무많은자유도와너무적은자유도. 따라서그것의경계는한편으로는의미있는것을말할수 없을정도의극단적인무작위성과복잡성이고, 다른한편으로는너무단순하고사소하며정보와풍부함이부족한구조입니다. 따라서항상그 안에서프랙탈경계를찾아야합니다 - 거기에아름다움이있습니다. 그리고거기에수학적관심도있습니다. 왜냐하면거기에무작위적이고불투명한정보(해독할수 없다는의미에서), 또는사소하고불투명한정보(해독할것이없다는의미에서, 왜냐하면그것은밀폐되어있기때문에)와는대조적으로, 가장많은학습적정보가있기때문입니다. 그리고왜 이것들이수학의기본특성일까요? 왜냐하면모든것이학습되고, 학습성은구조성의뿌리이며, 또한구조성의복잡성의뿌리이기때문입니다. 왜냐하면이것은결코일차원적구조가아니라항상이차원적구조이기때문입니다(이것이그것을구축으로만듭니다), 마치우리가숫자에서가지고있는것처럼(덧셈과곱셈). 그리고주목해보면, 위에서정의된학습에서의단순성은온라인이며, 단순한오캄의면도날처럼전체를대상으로하지않습니다(MDL, 솔로모노프, 또는콜모고로프복잡성에서). 즉: 우리는첫 번째예시후에가장단순한가설을찾고, 그런다음그것(이가설)을아래에있는또 다른준비된함수로취하고, 다음예시를추가한다음, 이전가설을비용이없는것으로, 즉단순한것으로고려하면서가장좋고단순한가설을찾습니다. 즉: 첫번째단계에서이미학습된함수는더 이상복잡성과단순성계산에서계산되지않습니다. 그리고아마도단순성함수의보편적이고단순한정의가가능할수도있습니다 - 단순히조합의수로서. 즉단순성은단지조합의아이디어의산물일뿐이며, 독립적인기준과평가가아닙니다.

수학의철학: 요약이 모든것을통해, 우리는학습을통해유한과무한의차이를학습된것과학습되지않은것의차이로새롭게특징지을수 있으며, 이는이 두범주사이에더 정확한구분을만듭니다. 대수적구조, 유한한것은항상결국에는학습됩니다. 반면에무한한, 연속적인구조의범주는오직극한에서만전체적으로학습될수 있으며, 즉그것은유한하게학습되지않습니다. 무한성은옆으로향할수 있고(각단계의예시들의집합에서), 또는위로(조합에서) 또는아래로(시작하는기본함수들의집합에서) 수직적일수 있습니다. 그리고이러한관점에서, 연속성과단순성은관련이있습니다. 모든것은유한하지만근사될수 있습니다. 즉: 극한은계산될필요가없고, 대신학습될수 있으며, 거리를줄일수 있습니다. 그리고만약단순성측정함수에근사를추가한다면(이산성에서요구되는정확성과대조적으로, 예시들을재현해야만할 때 - 이것이실제로이산성의정의입니다), 그러면도함수의아이디어는함수에대한선형근사입니다(즉선형구축만이허용된다면), 그리고계속됩니다(더높은도함수들에서, 이들은학습에서더 높은층들이며, 급수까지). 그리고연속성은영차도함수입니다 - 상수. 즉, 무한소계산에서단순성이란무엇입니까? 조합이아닌예시들에대한단순성입니다(또는선형회귀에서처럼조합에대해서도). 그리고적분은역문제, 교사의문제입니다: 어떻게학생의평가 - 그의근사 - 가특정함수처럼보이게만드는함수를찾을수 있을까요. 그리고이산적인세계에서, 예시들에의해정확하게통제되는, 우리는끝까지배울수 없는것들에서무한한문제들을발견합니다, 소수들처럼(구축에서허용되는조합이곱셈일때). 그리고그러면예를들어자연수의조합트리가얼마나복잡한지평균적으로물을수 있습니다(즉그들의소인수분해, 가장적은예시들로배워지는). 자연수집합을구축하는방법을이해하는것은, 조합이곱셈일때, 교사가특정수까지의자연수를구축하기위해주어야하는예시들의양의분포가무엇인지아는것을의미합니다. 즉, 수학의기본질문들에대한학습적공식화가있습니다 - 이는이 질문들에서의진전을막고있는부적절한개념적프레임워크때문에, 언어패러다임이바뀌는순간그들에게학습적해결책을가능하게할 것입니다. 그리고이렇게철학은수학을 - 그리고수학적학습을 - 도울수 있습니다.

컴퓨터학습의철학컴퓨터과학의철학다음단계는컴퓨터학습의철학입니다. 오늘날딥러닝의상태는인터넷이전의개인용컴퓨터의상태와같습니다. 그리고미래는딥러닝네트워크들과기계학습분류기들의인터넷네트워크이며, 이들은프로토콜로서로연결되어있고학습적구축에서그들을조합하는능력을만듭니다. 즉: 각각이무언가에특화된여러딥러닝모듈들을큰 시스템으로연결하는것입니다. 이시스템은뇌처럼세상에대해많은것을실제로알고있으며, 특정데이터로훈련된고립된전문가시스템들만이아닐것입니다. 이러한딥 네트워크들의네트워크는일종의시장이될 것이며, 거기서는약간의분류나다른능력이나행동에대해약간의돈을지불하고, 거대한인공학습생태계가만들어집니다. 그리고그것은큰 지능을향한서막이될 것입니다 - 그리고그로부터인공지능이성장할것이며, 어떤특정시스템으로부터가아닙니다 - 그것은어느날 어떤실험실의어떤네트워크에서결정되지않을것이며, 대신네트워크로부터나올것입니다. 이러한지능의자연스러운범주들은무엇일까요? 계산의세계에서튜링기계가공간의개념을메모리로, 즉공간을차지하는정보로새롭게정의했고, 시간의개념을계산의작업들로, 즉시간이걸리는것으로정의했듯이(그리고여기서 - 효율성), 딥러닝은이것들을새롭게정의합니다. 이제공간이란무엇입니까? 컨볼루션네트워크에서처럼로컬한것, 즉어떤것이그것에가까운것들에영향을미치는시스템입니다. 그리고시간이란무엇입니까? RNN에서처럼지속되는기억, 즉어떤것이그것으로부터멀리있는것들에영향을미치는시스템입니다. 이전세계, 계산의세계는공간의중요성을낮췄고(모든것이메모리에있기때문에), 그것의자연적차원들을무효화했으며(메모리는본질적으로일차원적입니다), 반면에시간의차원과속도를강조했습니다. 그리고여기, 딥러닝의세계에서, 우리는시간의차원이더 이상일차원적이지않을수 있다는것을봅니다. 왜냐하면것들이여러방향에서멀리서영향을미칠수 있기때문입니다 - 그리고한 차원이상에서. 두개 이상의시간차원을가진딥러닝네트워크가확실히가능합니다, 즉시간차원에서한 방향으로만뒤로재귀적이지않고, 두개 이상의변수/방향에서재귀적인자신의복사본들에연결된네트워크입니다. 즉, 만약계산이공간의시간화였다면(모든것이, 돈을포함해서, 시간과동등합니다), 딥러닝은시간의공간화가될 수있습니다(모든것이공간이될 것이며, 시간들도마찬가지입니다).

딥러닝의철학딥러닝은무엇으로구성되어있습니까? 수학에서배우는가장기본적이고원시적인두 가지, 즉 1학기에서배우는것들입니다: 선형대수학 1과미적분학 1. 선형대수학은우리가이야기했던조합입니다(그리고그것은존재하는가장단순한조합입니다: 선형조합). 그리고또한도함수가있는데, 이는방향을제공하며, 세번째나타니야후공리에따릅니다(도함수는방향이므로가장단순한방향입니다). 즉: 학습은실제로무엇을합니까? 예시들을방향들로대체합니다. 그리고무엇이학습을깊게만듭니까? 이모든구축이시스템내에서이루어진다는것입니다. 이것이시스템의깊이입니다(그리고두 번째공리). 그리고학습은더 이상항상시스템의표면근처에있지않습니다, 언어에서처럼, 시스템과외부예시들사이의대화에서(네트워크의바닥과꼭대기에서). 그리고추가로, 각층은그 아래층에대해서는여성이고위 층에대해서는남성입니다, 네번째나타니야후공리에따라. 즉우리는여기서모든공리들의현장에서의실현을봅니다(당신이주목한다면첫 번째도). 정말로예언과같습니다. 그리고또한주목해보면, 여기에는학습의역사전체를통해서로경쟁해온두 가지요소가있습니다: 방향대 구조. 여기서우리는그것들을학습시간동안뒤로모든것을확산시키는그래디언트도함수에서(방향) 대특정모델의구축에서(예를들어네트워크의특정아키텍처, 미리정해지는, 하지만더욱이오늘날덜 인기있는여러아이디어들, 예를들어모든문제에대한딥 네트워크의일반적접근대신특정문제에대한강한사전지식을가진특정학습모델만들기) 봅니다. 그리고이 모든것은환경대 유전, 경험주의대 합리주의, 아리스토텔레스대 플라톤이라는오래된문제의우리시대의화신일뿐입니다. 또는자유경쟁과보이지않는손(방향의세계) 대사회주의와국가(구조의세계), 자유주의대 보수주의, 그리고라마르크식진화(방향적극단에서) 대지적설계(구조적극단에서). 수학적수준에서, 방향은연속적이며, 해석학과기하학의세계와관련이있고, 반면에구조적조합은언어적이며, 대수학과논리학의세계와관련이있습니다. 그리고딥러닝은이 변증법에서구축에대한방향의학습적접근의엄청난승리입니다(하지만반동이올 것입니다), 그리고그것은자본주의와민주주의의승리와평행을이룹니다(커뮤니케이션과선거의방향대 관료적이고통치적구조), 또는사회에서구조를희생하면서쾌락주의가지배하는것. 왜냐하면딥러닝에서는구조가단순히많은피드백과방향보다훨씬덜 중요하다는것이밝혀졌기때문입니다(하지만물론여기에는종합이있습니다. 왜냐하면딥러닝만큼높은계층구조가어디있습니까? 단지계층구조의세부사항이덜 중요하다는것이밝혀졌을뿐이며, 실제로그 안의모든것이방향을통해결정되어, 꽤일반적인학습메커니즘이만들어졌습니다. 이는일종의경험적백지상태입니다). 따라서, 학습이무엇인지이해하기위해서는, 아마도필요한것은학습에필요한예시들과필요한구조제공사이의관계를취하는것입니다, 즉그것이어떻게변하는지(그들사이의관계). 더많은예시가필요할수록더 적은구조가필요하고, 반대도마찬가지입니다. 그리고이 함수가어떻게생겼는지이해하는것, 그리고이것이중요한연구라는것을이해하는것이지, 구조가예시들보다더 중요한지덜 중요한지가아닙니다. 예를들어이 함수가선형인지, 다항식인지, 지수함수인지등을알아내는것입니다, 다른문제영역들에서(예를들어다른수학적객체들을학습할때, 그리고또한현실의다른문제들에서). 즉, 물어야할 것은예시들의양과사전지식의양 사이의관계가무엇인가입니다. 그리고이것은기계학습의핵심에있는분산대 편향의동일한문제입니다(하지만딥러닝의핵심에는덜 있습니다, 분산이편향에대해큰 승리를거둔후, 딥러닝의무수한파라미터들과함께, 이는제약조건들의수보다훨씬많습니다).

뇌과학의철학헵의규칙과같은규칙(딥네트워크들의전역성에비해매우지역적이며, 긍정적이거나부정적인자기피드백으로기울어지는)을가능하게하는개념적기반은무엇입니까? 헵의규칙이기본적인학습메커니즘으로서어떻게가능할까요, 방향들과도 - 구조와도관련이없고, 외부와도 - 내부와도관련이없는? 음, 헵의규칙은단지 "발사하고연결된다"(함께발사하는뉴런들이함께연결됩니다 - fire&wire; 형제들)가아니라, 그것의진정한공식화는내가나를예측한사람으로부터의연결을강화하고, 내가예측한사람으로부터의연결을약화시킨다는것입니다. 따라서, 이규칙은뉴런들이주로정보전달자이면서도독립적인질적평가자라는가정하에서만합리적이며, 그러면이 규칙은평판을만들고, 그것을퍼뜨리기위해새로움을찾습니다. 또한그것은순환성에반대하기때문에층들을만듭니다. 그것은식별하는첫 번째를찾으므로, 누가첫 번째로식별할것인지에대한경쟁을만듭니다, 즉: 그것은경쟁적인규칙입니다. 하지만뉴런에대한어떤한 소스도 50퍼센트를, 또는적어도고정된임계값을넘어서는안 됩니다, 그렇지않으면그것은타락한긍정적순환피드백입니다(추가로, 물론이 규칙만으로는충분하지않습니다, 왜냐하면그것은자폐적이며, 외부피드백을제공하는신경전달물질도필요하고, 아마도다른형태의피드백도필요합니다). 즉, 헵의규칙은당신이(뉴런으로서) 독립적인평가능력을가지고있고그것을암시한다면(!) 작동할수 있습니다. 그리고그러면그것에대한경쟁이있습니다. 따라서그것은표면적으로는뉴런네트워크보다인간의사회적네트워크에더 합리적입니다. 하지만뇌의연결체, 또는심지어단일뉴런네트워크의어떤빠른관찰에서도, 뇌가무질서와다양성과잡음과복잡성을만드는방법들에서매우매우멀리나아가는것처럼보입니다, 아마도헵의규칙이사소성으로수렴하는것을막고, 그것이작업할수 있는충분히다양하고, 확률적이고, 혼돈적이고불안정한재료들을제공하기위해서일것입니다. 헵의규칙은정보를내용으로취급하며, 계산의작업으로취급하지않습니다(뉴런네트워크를일종의분산되고병렬적인컴퓨터로보는관점처럼). 즉, 많은중복성이있을때(뇌에서처럼, 또는다른많은학습시스템들에서), 그리고모두가같은선상에있을때, 당신이앞으로전달하는올바른메시지를선택해야합니다, 상대적으로작은파라미터들의변화와함께, 즉이것이더 많은정보전달에관한것이고계산에관한것이덜할때. 그리고이 맥락에서, 뇌에서위에서아래로의예측의전체이야기는(예를들어: 각상위층이그 아래층을예측할때, 그리고이렇게예를들어내가받게될 감각데이터를예측합니다) 아마도헵의규칙과깊은관련이있습니다. 왜냐하면내가예측하는사람의말을듣는것은정말중복적이기때문입니다. 그리고만약그렇다면, 여기에는계산보다는추측과수렴의과정이있습니다. 따라서예측이라는단어를추측으로대체해야합니다. 이러한관점에서, 뇌는아래에서(위로)의계산과위에서(아래로)의추측을통해작동하며, 그리고그들사이의충돌지점들이있습니다, 또는충돌층들이있으며, 누가옳았는지(그리고계속을예측하거나계산했는지)가거기서다른것을결정합니다. 만약각 상위층이아래에있어야할 것을말하고, 그반대도마찬가지라면, 이과정의수렴은오류의근원을찾을수 있게해주며, 이는잘못된평가가튀어오르기시작하는지점이며, 거기서문제가급격히증가합니다. 즉, 아래에서올라오는계산이이 지점에서잘못되어부정확해졌고, 그다음위 층들로오류를전파했거나, 또는위에서내려오는추측이이 지점에서잘못되어부정확한것으로판명되었고, 그다음아래층들로의추측에서오류를전파했습니다. 따라서, 진정한뉴런은내용평가자이며, 단순히평가받는것만이아닙니다. 왜냐하면그것은누구의말을들을지결정하기때문입니다. 즉그것은전달하는모든내용에대해특별히평가받고, 받는모든내용을특별히평가합니다. 그것은무한한긍정적이거나부정적인피드백메커니즘을두려워하지않습니다, 거기서그것은한 친구의말만듣고다른누구의말도듣지않는데, 왜냐하면그것은충분한잡음이있는충분한의견들을듣고, 아마도누군가의말을얼마나들을지에대한제한도있기때문입니다(아마도예를들어로그함수적일수 있습니다). 즉우리는각 뉴런이외부피드백과위로부터의지도뿐만아니라평가를위한본질적인측정방법들도가질수 있다는것을봅니다, 예를들어: 그가나를예측하는지, 그리고그가현재내 위에있는사람의예측에맞는지. 딥러닝에서의일반적인사고는네트워크의두 방향을분리된것으로보는것입니다, 두개의분리된단계로오는: 아래에서위로의계산(전방전파)과위에서아래로의피드백(후방전파). 하지만우리는그것들을시스템에서동시에, 비동기적으로그리고양방향으로그들의강도에따라시간에따라진행되는파도로도생각할수 있습니다, 즉때로는특정진행이불만족스러운뉴런에서, 또는그러한전체층에서멈추고, 뒤로피드백을보내기시작하며, 그반대도마찬가지이고, 반사와메아리와거친바다가있으며, 그것이특정상태로수렴할때까지, 그리고이것이네트워크의진정한계산메커니즘입니다(단순히아래에서위로만이아닙니다). 그리고이렇게훈련과실행/예측은두 개의분리된단계가아닙니다, 마치후방전파와전방전파가병렬로일어나는것처럼. 그리고이것이아마도뇌에서일어나는방식일것입니다. 그리고만약각 층이그 이전층을예측한다면, 때로는심지어입력층에서도, 데이터로부터도피드백이반환될것입니다, 이는현재딥러닝에서는일어나지않으며, 이는유감스럽습니다, 왜냐하면우리는이 반향을놓치고있고, 후방전파신호의정보는입력층에도달할때 사라지고손실됩니다(우리는이 정보를실제입력과비교하는데 사용하지않습니다). 하지만만약모든처리단위가위로부터지도를받고, 독립적으로(단순히후방전파의일부로서가아니라) 아래로지도를출력한다면, 아래와위 사이의만남에서위에서내려오는그래디언트나평가는아래에서올라오는것과만나게됩니다, 계산에서있었던것과. 그리고만약불일치가있다면문제가있습니다. 양쪽모두에게. 그리고만약그들이신호가어느방향으로변해야하는지에대해동의하지않는다면, 불일치에주의를기울여야합니다. 그리고시스템의자원들을그것으로향하게하고, 이렇게혁신이나, 놀라움이나, 문제들에주목할수 있습니다. 예를들어, 미시적수준에서, 만약받아들여지지않는뉴런이있다고말한다면, 그로부터의가중치들이거의 0에가깝다면, 그것은더 유용하고흥미로운기능이되라는부정적인피드백을받은것입니다. 그리고만약그것이일관되게강한모순되는피드백을받는다면, 아마도그것은두 개의뉴런으로분할되어야할 것입니다. 그리고만약두 뉴런의연결이너무비슷하다면, 아마도그들은하나로통합되어야할 것입니다. 즉우리는피드백과불일치에따라아키텍처를설계할수 있습니다. 그리고거시적수준에서는, 이것은시스템이놀라움을찾고, 미래예측에서실수한예들을찾을수 있게해주며, 이것이호기심입니다. 예를들어, 만약위층이그 아래층을예측하는데 실패했다면, 해결책에도달할때까지비슷한예들을계속연구합니다. 왜냐하면더 올바른시스템적사고는이미학습한(많이) 네트워크에대한것이기때문입니다. 그리고그러면그것은또 다른예를더 학습하거나, 과거에맞지않는새로운예를만납니다. 오늘날의사고방식과는대조적으로네트워크가모든예들을처음부터학습하기시작합니다(유아적사고). 그리고따라서, 문제를식별했을때, 파라미터검색공간은단순한최적화가아닌검색처럼작동해야합니다 - 탐색입니다. 그리고더 많은혁신을제안합니다 - 새로운조합들. 독립적인평가가있을때, 거기서층이자신만의측정기준으로그 아래층을판단하며, 단순히위층에서받은지도(후방전파에서)에따라서만이아닙니다, 당신은또한검색을수행할수 있고, 전체경로를따라검색공간을줄일수 있습니다(즉다른층들사이에서, 그래서검색이무차별대입으로무한한조합으로폭발할필요가없습니다). 인공지능연구의첫 번째세대는검색이었습니다(중심적인알고리즘적패러다임으로서, 예를들어논리적추론에서), 반면에오늘날인공지능은검색을불처럼피하고, 그것을최적화로대체했습니다(연속적인파라미터들의조정과통계에서), 하지만미래에는그들사이의종합이있을것입니다. 검색도제공할것이있습니다(단순히폭발하는것만이아니라), 만약그것을올바르게관리한다면, 그리고실제로뇌에서는많은경우에검색이수행되며, 진화에서도마찬가지입니다, 왜냐하면이것은더 창의적인혁신을가능하게하는방법이기때문입니다 - 조합과그것의평가를통해. 철학자체도만약그것이단순히그것의평가함수에대한최적화였다면매우지루하고아첨적이었을것이며, 그것이검색이라는사실이그것을어렵고흥미롭게만드는것입니다 - 그리고창의적이게, 그것의평가와의투쟁에서. 그리고왜 진화는무차별대입검색보다빠른가? 진화의성공은조합능력자체에서나옵니다, 즉처음에는검색이단순한조합들로이루어지고, 그다음에, 다음층들에서, 검색단계들이커지며, 그자체로복잡한부분들의조합들과함께. 그리고각 단계에서(즉층에서) 생물체의독립적인평가가있습니다. 그래서이것은무차별대입이아닙니다왜냐하면학습의이전단계들이다음단계들에영향을미치고, 그들을안내하기때문이며, 따라서검색은모든가능성의공간에서이루어지는것이아니라, 단지진행하는빔에서만이루어집니다. 그렇다면, 조합과세대(=층들)의현상은학습에서기본적입니다. 즉: 딥러닝에서도뇌에서도진화에서도일반적인학습의정의에서도, 우리는블랙박스인많은구성요소들을가지고있으며, 그들사이에구축중인연결들이있습니다(이를각 특정경우에서특성화해야합니다: 딥러닝에서는비선형성의트위스트가있는선형조합들, 진화에서는 - 교배, 그리고다른시스템들에서도계속). 위로향해서는그들은아래를사용하여함수를계산합니다. 그리고아래로향해서는그들은평가를제공합니다(예를들어그래디언트를통해또는아마도선택을, 예를들어짝에서, 이해하나요?).

네트워크연구의철학피드백이무엇을만드나요? 간단히말해서, 편미분방정식들과재귀방정식들, 이것들은실제로피드백메커니즘들이며, 따라서복잡성과혼돈의현상들입니다. 따라서뇌에서도, 그리고일반적으로학습에서도, 피드백순환은비슷한현상들을만들것이며, 이것들은그러면학습에자연스러운것이지, 그것의결함이아닙니다. 하지만어떤종류의피드백이있나요? 그래디언트디센트의후방전파(=최적화에서경사하강)에대한대안적인메커니즘들이평가의후방전달에있습니다. 예를들어: 단순성에대한추구(평가는오캄의면도날처럼얼마나단순한지에따른측정입니다). 또는혁신에대한추구. 또는가변성과다양성에대한(특정분포). 하지만피드백의가장중요한특성은그것이무엇에따른것이아니라, 그것이만드는순환의크기입니다, 왜냐하면이것이시스템적특성이기때문입니다. 그리고여기서후방전파의약점이두드러지는데, 이는매우큰 피드백순환을만들며, 이는큰 시스템에서매우인위적입니다 - 그리고매우느립니다. 더합리적이고따라서더 일반적인대안은짧은피드백루프입니다(인공신경망외부의세상에는후방전파로학습하는학습시스템이존재하지않습니다). 예를들어뇌에서는, 신경층들사이에많은역방향연결들이있습니다, 반대방향으로(딥러닝에는존재하지않는). 현재뇌의이해에서 - 그리고마찬가지로딥러닝에서도 - 부족한것은경쟁의아이디어이며, 그리고인구내에서의아이디어확산입니다(이는실제로헵의규칙에더 적합합니다). 왜냐하면각 단계에서, 뇌에서는여러가능성들이경쟁하며, 여러후속생각들이, 그리고하나가선택됩니다. 즉어떤평가에대한경쟁이있으며, 이는학습을어떻게계속할지선택합니다. 즉: 피드백의가장큰 중요성은정확히그것이만드는경쟁에있습니다(경제나민주주의에서처럼, 피드백의존재자체가중요하며, 그것이이상적이지않더라도). 하지만너무큰 피드백순환에서는이 모든것이손실되거나비효율적이며, 작은순환들에서의근접한경쟁과비교됩니다. 구글의페이지랭크알고리즘에서도허브들이있는데, 이들은평가하며, 이것이실제로그것의본질입니다 - 네트워크의일부정점들이다른것들을평가하도록그래프를분석하는것입니다(그리고차례로그들에의해평가받습니다). 이모든것이신경망과매우비슷하며, 그래서사이트들사이에순위에대한경쟁이생기고, 일반적으로네트워크에서품질경쟁이생깁니다. 그리고과학에서는? 각논문은다른것들을인용하며, 즉이것이네트워크에서의평가이며, 여기서는층들이없고모두가모두와연결되어있습니다. 그리고층들은출판시간에따라만들어집니다(각논문은그 이전에출판된것들을평가합니다). 즉우리는여기서그들이전의것들을평가하는층들을가지고있으며, 그들이후의것들에의해평가받으며, 그래서경쟁이생기며, 매우단순한네트워크메커니즘을통해서. 이두 경우에서큰 외부피드백순환이평가와경쟁을만들기위해필요하지않으며, 대신평가는그들자신으로부터생깁니다. 우리는반드시진화에서처럼강한외부평가가경쟁을만들기위해필요한것은아니며, 이것이비지도학습의열쇠이며, 이는뇌에서지배적인학습이며, 딥러닝의큰 단점입니다, 이는엄청난양의예제들이필요합니다(참고로, 진화에서도주요경쟁은짝을위한것입니다, 즉종 내의작은, 내부적인피드백순환들에대한것이며, 큰멸종에대한것이아닙니다). 그래서우리는명확한외부평가가없는네트워크들에서도, 예를들어페이스북, 주식시장, 그리고데이트, 그리고논문들에서, 여전히격렬한경쟁이있을수 있다는것을봅니다. 그러한네트워크들에서당신은숫자를받습니다, 가격이나좋아요나 h-index나페이지랭크와구글에서의순위같은, 그리고당신에대한지도. 이숫자는당신에게어떤지도도주지않으며, 단지평가만을주며, 그리고당신은그것을해석하고당신이어느방향으로변해야하는지를그것으로부터이해해야합니다. 그리고이는딥러닝에서당신을위로부터지도하는그래디언트와는대조적입니다, 이는당신에게주어진방향입니다. 그리고아마도다항식시간이측정가능한지도가있는것이라고주장할수 있으며, 반면에 NP는지도가없는문제들의클래스이며, 미분불가능하며, 대신에혼돈적이고비지역적입니다. 따라서우리는 NP로부터평가가학습에충분하지않다는것을배워야합니다. 오직지도만이. 왜냐하면 NP는정확히이 거대한피드백순환이기때문입니다, 외부로부터, 이는우리를해결책으로이끌내부학습에아무것도주지않는것으로판명됩니다. 그러한평가로부터지도를도출할수 없습니다. 다항식시간이교대로라마르키안한것인가, 즉지역적최적화로분해가능한가, 즉그것이구축+지도인가? 뇌에서는아직학습이어떻게작동하는지모르지만, 진화에서는알고있으며, 우리는거기서도핵심특성이있다는것을봅니다: 독립적인평가함수, 이것이두 성이있는이유입니다. 즉강한외부평가인삶과죽음이있더라도, 학습이작동하기위해서는시스템내에서도독립적인내부평가가필요하며, 성의. 큰피드백순환은반드시더 작고더 근접한피드백순환들로분해되어야하며, 이는단순히그것의미분이아닙니다, 문자그대로. 문화적/정치적/주식회사/경제네트워크에서도독립적인평가함수들이있습니다. 즉: 그것이그들의유일한기능인부분들이있습니다. 그리고그러면그것에대한경쟁이있으며, 즉대안들사이에중복성과여분과다양성과차이와비교가있습니다(그렇지않으면왜 모든학습시스템들에서이 심리적중복성이존재하나요? 왜뇌에그렇게많은뉴런들이있고유전체에유전자들이있고종에유기체들이있고 - 그리고국가에사람들이있나요). 그렇다면, 내부평가는어떻게작동하나요? 그것은어떻게스스로평가받나요? 음, 시스템내에단순히독립적인평가단위들이있으며, 이는독립적으로지도하며, 단순히큰 피드백의전체순환이아닙니다. 대체로, 시스템에대한일반적인피드백은드물고비싸며, 따라서 2차평가함수들에의존합니다. 그리고단순히평가함수들도학습합니다. 그리고 NP에서는무슨일이일어나나요? 2차평가들이실패합니다. 실제로, 시스템의학습을만드는것으로서시스템외부로부터의강화학습의전체아이디어는(예를들어행동주의) 개념적오류이며, 이는학습의단순화된철학적그림에서비롯됩니다. 우리는결코최종피드백을가지지않으며, 모든계산은아직끝나지않았습니다.

신경망의철학독립적인평가들이시스템내에서어떻게더 도움이되나요, 시스템외부에서오는외부평가와는대조적으로, 이는그것을가르치기위해옵니다? 왜냐하면당신은또한이전에배운것을그것을지우는새로운학습으로부터보호해야하기때문입니다. 그리고내부평가는그것이이끈학습을모든것을씻어내는외부지도들로부터보호합니다(후방전파에서처럼). 그래서새로운피드백이단지새로운것에만도달하도록할 수있으며, 그것의방향으로채널링되며, 모든오래된것의방향이아니라 - 그리고추가하며 - 지우지않습니다. 기억을보존하게하는것은정확히후방으로의학습이없다는것입니다. 예를들어그것이라마르키안이아니라는것, 대신에 DNA의학습, 즉디지털이며단순히아날로그연속적이지않다는것입니다(이는모두미분과최적화에서의수렴으로마모됩니다). 그리고이것은또한조합을가능하게합니다. 평가가독립적일때, 학습은한 번에한 층만뒤로갑니다. 거기서마법이일어나며, 예를들어복잡성의, 단순히또 다른층을통해서. 진화에서도 - 그것은항상한 세대입니다. 후방전파는악의근원이며, 이는딥러닝분야전체를무차별대입으로, 블랙박스로만들었고따라서과학이아닌공학으로만들었습니다. 모든문제적인현상들이그것에서나옵니다. 그리고그렇게학습하는자연시스템은존재하지않습니다. 치명적망각(새로운종류의예제들을주면딥 네트워크가배운것을잊어버리는현상)과딥러닝에서학습블록들을잘 연결하는능력의부족은여기서처음에제시된것과같은모델을선택했다면피할수 있었을것입니다, 교사와구축의. 치명적망각은실제로기억이전혀없기때문입니다, 단지행동이나학습만있습니다. 따라서학습에저항하는기억이필요합니다, 즉: 네트워크가유용한것을배웠다고결정하는경우들, 또는특정개념을, 그리고그것을계속되는변화와별도로저장합니다(또는그것에대한변화능력을매우늦춥니다). 따라서당신이한 것을강화하는방법이필요하며단순히그것을변경하지않는것이아니라, 각파라미터에대한확신파라미터가있어야하며, 이는성공할때마다강화됩니다(즉, 파라미터지도에대한변화미분이거의없을때, 이것도가치있는정보이며, 현재는거의손실되고있지만, 경사하강의최적화알고리즘에서부분적으로영향을미칩니다, 예를들어모멘텀에서). 기억한다는것은학습하지않는능력입니다. 지속될무언가를배우기위해서는학습하지않는능력이필요하며, 모든새로운정보에의해영향을받지않는것이, 지도의바람개비처럼. 후방전파메커니즘의모든변화는딥러닝의다른변화들보다훨씬더 근본적입니다, 왜냐하면이것이방법론이기때문입니다, 학습메커니즘. 그리고거기서그것을수정할수 있습니다. 그리고철학의역할은이 개념적심층분석을분석하는것입니다(현재는거의하지않고있으며, 따라서철학자들에게아무도돈을지불하지않습니다, 그들이제공할수 있는엄청난가치에도불구하고).

딥러닝의철학: 요약따라서, 필요한것은아래로내려가는모든것(평가들)이하나의깊은평가네트워크로연결되어있는모델이며, 각층은일반적인딥 네트워크에서일어나는것에대한출력과입력을가지고있습니다, 즉계산하는네트워크의병렬층에. 계산네트워크에서평가네트워크로의입력은계산네트워크의층의출력이며, 이는평가네트워크로전달됩니다 - 평가를위해. 그리고평가네트워크에서계산네트워크로의출력은그것의평가출력입니다 - 이는지도입니다. 네, 이것은양방향으로완전히대칭적입니다. 그리고따라서훨씬더 일반적입니다. 위로올라가는하나의네트워크와그것에대해완전히병렬로아래로내려가는네트워크. 그리고두 네트워크가정확히같은구조를가지는특별한경우에는, 실제로각 뉴런은이중가중치를가집니다, 위아래로, 그들의업데이트를위해. 즉이것을하나의네트워크로생각할수 있습니다(이중작용), 하지만아마도평가네트워크에구조적독립성을주는것이더 나을것입니다, 즉서로를제어하는두 네트워크. 그리고이 모든것이 NP에대해무엇을의미합니까? 여기서의학습정의는평가자와평가받는자들의층들로의분해로서입니다, 교사와학생들. 그리고질문은그러한분해가존재하는지아닌지입니다, 문제에대해, 모든다항식알고리즘이그러한분해일때. 즉, 이것은컴퓨터과학의철학에서우리가본 것과는다른학습의정의이며, 아마도이러한과학들의기본문제를다루는데 더적합할수 있습니다. 그리고나는, 이미내 인생에서이러한생각들을가져와서형식적으로만들수 있는단계를지났습니다 - 하지만아마도당신은할 수있을것입니다.

문화와문학

html_raw:
<!DOCTYPE html><meta charset="utf-8"><meta name="viewport" content="width=device-width, initial-scale=1.0"><title>학습 과학의 발전을 위한 프로그램: 계산 학습, 기계 학습, 신경 과학 - 강산의 빛바램</title><link rel="icon" type="image/png" href="../favicon-192x192.png" sizes="192x192"><link rel="apple-touch-icon" sizes="180x180" href="../apple-touch-icon-180x180.png"><link rel="canonical" href="https://degeneration-of-nation.org/ko/culture&literature76" /><meta property="og:image" content="https://degeneration-of-nation.org/img/kod.jpg" /><link rel="license" href="https://creativecommons.org/licenses/by/4.0/"><link rel="stylesheet" href="../styles.css"><link rel="stylesheet" href="../column.css"><link rel="stylesheet" href="../article.css">
강산의 빛바램

학습 과학의 발전을 위한 프로그램: 계산 학습, 기계 학습, 신경 과학

정보 과학의 철학에 관한 서신, 학습 과학으로의 전환을 향하여: 수학 철학, 컴퓨터 과학 철학, 컴퓨터 학습 철학, 신경 과학 철학

저자: 수학자 (더 이상은 아닐)

학생에게 보내는 편지: 코드와 아케다 [성서의 이삭 번제] - 모든 것이 연결되어 있다 (학습과 관련하여) (출처)

수학의 학습적 철학

당신은 수학 철학이 흥미롭지 않다고 생각하지만, 사실 이것이야말로 가장 흥미로운 것입니다. 학습을 수학의 기초로 삼았어야 했습니다. 증명을 쓰는 것이 아니라 증명을 학습하는 것이 중요합니다. 왜냐하면 수학적 구성은 본질적으로 논리적 구성이 아니라(이는 단지 그것의 언어적 표면일 뿐입니다) 학습적 구성이기 때문입니다. 신경과학의 중심적 문제는 뇌를 하나의 주체로 생각하는 것입니다. 대신 뇌 안에서 경쟁이 있다는 것을 이해해야 합니다 - 생각들 사이의, 모듈들 사이의(예를 들어 주의력과 결정에 관한), 다양한 기억들 사이의, 뉴런들 사이의, 그리고 이 문장의 다양한 연속들 사이의 경쟁입니다(그리고 이 경쟁은 경제적 또는 정치적 경쟁과 유사하며, 민주주의나 자본주의 또는 중국의 능력주의와 같은 학습 시스템을 구축하고, 이것이 그들의 승리의 근원입니다). 마찬가지로 수학의 중심적 문제는 그것이 자신의 다양한 주체들, 즉 수학을 학습하는 수학자들을 개념화하지 않는다는 것이며, 수학 아래에 있는 학습을 전혀 개념화하지 않는다는 것입니다(과거에 수학 아래의 논리를 개념화하지 않았던 것처럼, 그리고 나서 프레게가 논리를 수학의 기초로 만들었듯이, 논리 아래에 있는 것 - 그것을 작동시키고, 이후에 수학의 기초가 될 것 - 그것이 바로 수학적 학습입니다). 더욱이 - 학습은 수학에서 모든 것이 그 위에 세워지는 기본 개념들을 정의하는 도구가 되어야 합니다: 극한, 군, 위상, 공간, 증명, 집합, 소수, 확률, 함수, 연속 등. 그래서 수학에 대한 학습적 재구성, 공리화, 그리고 새로운 해석이 필요합니다(양자역학의 가능한 학습적 해석처럼, 다른 해석들 중에서). 수학의 조합과 구성 특성 - 특히 대수학에서 - 은 학습성에서 비롯되며, 이를 기반으로 해야 합니다. 예를 들어 당신이 이미 a, b를 블랙박스로 하는 방법을 배웠다고 가정해봅시다. 이 함수를 가지고 있다는 것은 무엇을 의미할까요? 예를 들어 증명을 안다는 것은 무엇을 의미할까요? 이것을 사용해서 어떻게 c에 도달하는 것을 배우나요? 단순히 함수가 있다고 말할 수 없는 단계가 올 것입니다. 하지만 브라우어의 직관주의나 형식주의의 공리적-계산적 구성과는 달리, 당신이 제공해야 할 구성은 학습적입니다: 어떻게 그 함수를 배웠는지입니다. 그리고 설령 그 함수가 이미 당신 안에 존재한다 하더라도(예를 들어 당신 뇌의 신경학에서), 블랙박스로서, 그것을 안다는 것은 그것을 사용하는 것을 의미하지 않습니다. 즉, 입력에 대한 그것의 답을 줄 수 있는 능력이 아니라, 아는 것의 의미는 그것을 통해 학습할 수 있는 능력입니다. 다시 말해 이 블랙박스(당신이 이해하지 못하는)로부터 적절한 학습의 연속을 구성하는 것입니다. 증명을 아는 것이 그것을 인용하고 가정에서 결론에 도달하는 능력이 아니라(증명 끝), 그것으로부터 추가적인 증명들을 구성할 수 있는 능력, 즉 그것을 통해 계속 학습할 수 있는 능력인 것처럼 말입니다. 그리고 증명을 이해한다는 것은 그 안에서 무언가를 이해하는 것이 아니라(예를 들어 그 연속성 안에서), 그것으로부터 추가적인 증명들을 구축하는 방법을 이해하는 것입니다(비트겐슈타인처럼 단순히 기존 시스템에서 "사용"하는 것이 아니라, 그것으로부터 시스템의 연속을 구축하고 시스템을 발전시키는 것, 마치 화자가 아닌 시인이 언어를 사용하는 것처럼, 즉 "사용자"가 아닌 프로그래머가 컴퓨터를 사용하는 것처럼). 그리고 여기서 우리는 예를 들어 신경망과 유전 알고리즘 사이의 유사성에 주목합니다. 뉴런에서 구성은 주로 숫자들의 연결과 조합입니다(즉, 선형 조합 - 가장 단순한 조합 - 의 함수들, 그 위에 최소한의 필요한 비선형성만 있음), 반면 진화에서 구성은 부분들의 연결과 조합입니다(실제로, 이는 두 문장 - 두 게놈의 언어적 조합으로, 일부 단어는 첫 번째에서 오고 일부는 두 번째에서 옵니다. 그리고 마지막으로 수렴 후에는 - 문장들이 매우 비슷해지고 그들 사이에 약간의 변형만 있어서, 문장이 여전히 의미가 있습니다. "정원사가 곡물을 정원에서 길렀다"가 "정원사가 밀을 정원에서 길렀다"와 교배합니다. 그리고 그들의 자손은 "정원사가 곡물을 정원에서 길렀다"입니다). 따라서 두 구성 및 건설 메커니즘 사이의 구체적인 차이를 넘어서서, 즉 하나는 양적 크기의 조합이고 다른 하나는 텍스트-언어적 조합이라는 차이를 넘어서서, 뉴런 학습과 진화 사이에는 깊은 유사성이 있습니다: 세대는 층입니다. 기본적인 학습 구성요소들은 각 단계에서 매우 많으며, 또한 학습을 만들기 위해 서로 위에 깊게(즉, 매우 많이) 쌓입니다. 진화는 본질적으로 심층 학습이며, 이 자연스러운 유사성을 부인할 수 없습니다. 즉, 우리는 자연에서 구성이 학습에 기본적이라는 것을 봅니다 - 비록 세상에는 다른 구성 기술들이 있을 수 있지만(덧셈, 곱셈, 문자열 연결, 다른 코드 섹션을 함수로 호출하는 것 등) - 그리고 이는 논리적이고 수학적인 구성에서도 마찬가지입니다. 논리에서도 조합으로부터 생성되는 많은 구성 층이 있기 때문입니다(구성에는 두 가지 차원이 있습니다. 이전의 두 가지 이상을 결합하기 때문에 - 수평적 차원 - 그것들로부터 새로운 것을 만들어내기 때문입니다 - 수직적 차원. 즉, 구성은 아래로의 다중성과 옆의 가능성들의 다중성 모두에서 생성됩니다. 벽돌 벽처럼). 그리고 수학을 학습 위에서 새롭게 정의하는 프로젝트로 돌아가면, 우리는 이 프로그램(랑글랜즈 프로그램에 비유할 수 있는 수학 기초의 학습적 프로그램)이 본질적으로 구성적인 대수학뿐만 아니라 해석학에도 적합하다는 것을 알 수 있습니다. 실제로, 대수학에서 구성은 기본적이며, 바로 그렇기 때문에 그 안의 기본적인 구성 질문들은 학습적 관점에서 이득을 볼 것입니다. 예를 들어 소수란 무엇입니까? 숫자를 구성하는 두 가지 방법의 충돌입니다: 하나는 덧셈으로 - 다른 하나는 곱셈으로. 이것이 수수께끼의 근원이며(리만 가설을 비유적으로), 그 해결은 새로운 개념화를 통해 올 것입니다: 그것들을 구성하는 것을 배우는 것. 소수를 배우는 것 - 이것이 리만 가설로 가는 왕도입니다. 그리고 이렇게 군을 구성하는 것을 배울 수 있습니다. 또는 집합을 배울 수 있습니다(또는 그래프, 또는 게임, 또는 행렬). 그리고 해석학에서, 극한이란 무엇을 의미합니까? 측정을 통해 접근한다는 것 - 이것이 아는 것을 의미합니다. 그리고 위상은 극한의 일반화입니다. 극한은 학습 메커니즘이며, 그것이 성공할 때, 학습이 가능할 때(즉, 접근할수록 무엇에 접근하는지 배울 수 있을 때), 그것은 연속입니다. 그리고 학습할 수 없을 때 - 그것은 불연속입니다. 그리고 이 학습 메커니즘 자체는 연속의 위상에서 나옵니다. 즉, 위상학에서 학습은 극한 정의의 기초가 아닌 더 추상적인 일반화이며, 극한은 그것의 특별한 예입니다. 학습 메커니즘 자체(연속의)를 보고 그것으로부터 정의를 시작할 때 - 이것이 위상학입니다(필터나 열린/닫힌 집합을 통한 정의, 또는 다른 현대적 제안들을 대신하여). 그리고 해석학에서, 우리는 방법론의 아이디어를 통해 도함수를 정의하거나, 도함수의 아이디어의 일반화로서 방법론을 정의할 수 있습니다. 이것이 학습의 학습입니다.

컴퓨터 과학의 학습적 철학

같은 방식으로, 학습적 기초 위에 분야를 구축하는 유사한 과정을 컴퓨터 과학에서도 할 수 있습니다(그리고 이를 통해 마침내 컴퓨터 과학 철학이라는 분야를 진지하게 설립할 수 있습니다). 계산이란 무엇입니까: 함수가 어떻게 거기에 도달했는가? (당신은 더 이상 단순히 정의할 수 없고 그것은 구성적이어야만 합니다 - 계산 가능). 그렇다면, 학습이란 무엇입니까: 계산이 어떻게 거기에 도달했는가? (당신은 어떻게 알고리즘을 구축했는지, 즉 어떻게 그것을 배웠는지 설명해야 합니다. 이전에 함수를 어떻게 구축했는지 설명해야 했던 것처럼. 이것은 구성성의 구성성입니다). 그렇다면, 함수로 돌아가면, 필요한 것은: 함수를 계산하는 것을 배우는 것입니다. 증명은 구성입니다. 그리고 학습은 어떻게 구성하는지입니다. 구성 자체를 구성하는 것. 따라서 다음 대수적 단계는 학습에서의 덧셈과 곱셈이 될 것이며, 이는 덧셈과 곱셈의 일반화가 될 것이고, 따라서 학습을 통해 우리는 알고리즘의 덧셈과 곱셈을 정의할 수 있을 것입니다. 그리고 이것들은 곱셈(다항식의 경우 루프에서의 호출)과 덧셈(알고리즘 후 알고리즘 실행)의 일반화가 될 것이며, 학습적 구성에서 그렇게 될 것입니다. 그리고 재귀는 거듭제곱의 일반화가 될 것입니다. 그리고 조건문은 일종의 덧셈입니다. 튜링의 계산 세계에서, 무한과 점근적인 것은 해석학이었고, 연산들은 대수학이었습니다. 그리고 이제 우리는 무한을 더하고 싶은 문제에 직면해 있습니다. 즉, 극한을 향해 학습하는 시스템들을 더하는 것입니다. 이는 무한급수의 덧셈이라는 문제와 매우 유사한 역사적 문제이며, 이는 미적분학의 근원에 있었습니다. 학습 구성요소들은 항상 최적값에 접근하고 있으며, 이것이 연속적인 부분, 최적화의 부분입니다. 그리고 다른 한편으로 그들은 대수적으로 서로와 함께/위에 구성되어 있으며, 이것이 이산적인 부분, 검색과 변이의 부분, 즉 계산적으로 비싼 부분입니다. 이것을 일반적으로 하는 방법이 없다면 - 조합이 있습니다. 즉, 이것은 무차별 대입 검색입니다. 따라서 우리는 지수성이 본질적으로 무차별 대입과 문제를 이해하고 해결할 수 없음의 표현이며, 단지 그것을 공식화할 수만 있다는 것을 이해해야 합니다. 그것의 의미는: 해결하는 방법을 모른다는 것. 즉: 우리가 수학에서 알고 있는 모든 기본적인 대수적 연산들 아래에는, 덧셈과 곱셈과 거듭제곱과 같은, 더 깊은 무언가가 있으며, 그것은 계산적이고, 심지어 (그 아래) 학습적입니다. 그리고 그것은 현재 단순히 실행 시간의 함수로서 외부적으로 나타나고 있을 뿐입니다. 거듭제곱은 본질적으로 모든 가능성 공간에서의 검색입니다. 이것은 언어이지 학습이 아닙니다. 언어는 모든 가능한 조합이고, 학습은 가능성들의 수렴이며, 따라서 특정한 해결책을 가능하게 합니다. 특정한 문장을. 세상의 어떤 문장도 결코 언어에 의해 쓰이지 않았습니다 - 그들은 모두 학습에 의해 쓰입니다.

알고리즘의 철학

함수나 알고리즘을 배웠나요? 해석학의 극한과 비슷하다는 것을 주목하세요 - 거기에 함수가 있습니다(그것이 극한입니다). 그리고 엡실론과 델타 대신에, 여기에는 교사와 학생 사이의 상호작용이 있습니다. 학생은 극한을 향해 나아가고(그것이 그의 지평선입니다), 교사는 극한에서 측정자의 위치에 서 있습니다. 예를 들어 특정 지점에서 함수의 결과에 얼마나 가까이 왔는지 묻습니다. 즉, 교사의 측면, 성공을 측정하는 측면, 당신의 수렴을 판단하는 측면은 NP의 기준과 같습니다. 그리고 NP의 문제는 무엇입니까? 그것은 해석학의 연속 극한과 정확히 반대입니다. 왜냐하면 이러한 문제들에서는 성공의 부분적 측정이 목표 달성에 전혀 도움이 되지 않고, 학습을 돕지 않기 때문입니다. 즉, 당신은 학생으로서 성공할 수 없습니다. 목표에 도달할 수 있게 하는 길의 지침이 없습니다. 학습은 할 수 있는 것들로부터 할 수 없는 것을 구축하는 과정입니다. 그리고 이 모든 것은 평가 기준에 대해서입니다. 그리고 만약 평가가 외부적이 아닌 내부적 기준이라면, 그것이 바로 방법 - 즉 방법론입니다. 하지만 만약 전혀 내부적 기준이 없고 오직 외부적 기준만 있다면? 그러면 당신은 NP에 있는 것입니다. 알고리즘을 배울 때, 그것을 예시로부터의 학습 또는 시연으로부터의 학습으로 정의하는 것이 맞습니까? 즉, 무엇을 학습하는 것인지 또는 어떻게 학습하는 것인지로? 당신은 특정 경우에 배우는 함수의 입력과 출력 값만 받는 것입니까, 아니면 특정 입력-출력 경우에서 함수의 구성적 구축을 받는 것입니까? 답은 둘 다여야 합니다. 왜냐하면 학습은 정확히 이전 함수들로부터 구축된 함수의 분해이며, 이것이 바로 시연이지만, 각 단계에서 어떤 조합을 만들지 선택하는 것은 예시에 달려있기 때문입니다(증명이 예시입니까 아니면 시연입니까?). 그렇다면, NP는 검사하기는 쉽지만 - 학습하기는 어려운(즉, 가르칠 수 없는 - 교사가 될 수 없는) 문제들입니다. 그리고 이는 소수 문제에서도 정확히 마찬가지입니다. 질문은 당신이 얼마나 그것들을 배울 수 없는지, 얼마나 그것들이 예측 불가능한지입니다(확률, 이것도 학습을 통해 새롭게 정의할 수 있습니다). 이것이 리만 가설의 본질입니다(그리고 따라서 일방향 함수로서의 소수 인수분해 문제와 깊은 관련이 있을 것으로 예상됩니다). 소수에서의 학습이란 무엇입니까? 자연수 수열에서 도달한 각 소수에서, 당신이 이미 알고 있는 것은 그 이전의 모든 소수들로부터 곱셈을 통해 수를 구축하는 것입니다. 즉 그것(다음 소수)은 당신이 배우지 않았고 배워야 하는 것이며, 깊은 질문은 당신의 학습 능력이 본질적으로 얼마나 제한되어 있는가 입니다. 만약 학습적 구성이 이전 수들의 곱셈을 통한 수의 구성이라면 말입니다. 즉: 수학에서 가장 중요한 두 가설에는 그들의 본질을 건드리는 학습적 공식화가 존재합니다 - 그리고 이것이 우리가 언어적 사고, 즉 매우 원시적이고 조합적인 종류의 구성(자연수와 알고리즘 모두의)에 부딪히지 않았다면 그들의 해결로 가는 길이었어야 했습니다. 둘 다에서 우리는 특정 현상이 학습하기 어렵다는 것을 증명해야 합니다 - 즉 무엇을 배울 수 없는지 찾아야 합니다. 수학의 역사에서 우리는 어떻게 접근해야 할지 전혀 몰랐던 기본적인 가설들을 해결했습니다(무리수의 존재, 원의 정사각형화, 5차 방정식, 괴델의 정리 등) 항상 이러한 새로운 구성을 통해서였습니다. 이는 현상을 포착하는데 성공했고 - 그 후에 그것을 통해 무엇을 구성할 수 없는지 증명했습니다. 이 모든 것들이 무엇을 할 수 없는지에 대한 문제들이었다는 것에 주목하세요(피타고라스 학파에서 무리수의 존재는 자연수를 통해 비율로 그것을 구성할 수 없다는 것이었습니다. 비록 문제가 긍정적인 형태로 표현되었지만), 왜냐하면 수학에서 더 깊은 문제들은 항상 불가능성의 문제들이기 때문입니다. 정확히 수학이 구성이기 때문에 - 그것은 무엇을 구성할 수 없는지 보여줘야 할 때 깨진 물동이 앞에 서게 됩니다(그리고 무엇을 할 수 있는지는 덜 중요합니다 - 왜냐하면 그것은 단순히 구성하면 되기 때문입니다). 따라서 오늘날의 두 가지 주요한 불가능성 문제들, NP와 리만을 진전시키기 위해서는, 학습의 수학적 정의와 그로부터 나오는 구성을 만들어야 합니다 - 그리고 나서 그러한 구성이 불가능하다는 것을 증명해야 합니다. 왜냐하면 그것을 배울 수 없기 때문입니다(다른 말로 하면: 학습은 그것이 배우는 수학적 구조를 표현할 수 있고 표현해야 하며, 배울 수 없는 것 때문에 그것에 제한을 가해야 합니다 - 이는 수학적 학습 이론에서 도출될 것입니다 - 그리고 이를 통해 그것의 가능성의 한계를 증명해야 합니다). 그리고 NP 대 P 문제에 관해서, 우리는 배우는 것이, 일반적인 의미에서, 필연적으로 어렵고, 비효율적이며, 다항식적이지 않다는 것에 주목해야 합니다. 그리고 사실 아마도 증명하기에 충분한 것은 배우는 것이 어려운 문제라는 것입니다. 왜냐하면 우리가 올바르게 배웠는지 확인하기는 쉽기 때문입니다. 예시들에 따라서. 이것 자체가 NP 문제입니다. 즉, 만약 효율적인 일반 학습 알고리즘이 있다면 - 모순에 도달해야 합니다(이러한 부조리로의 유도는 만약 학습 문제를 해결할 수 있다면, 모든 것을 쉽게 해결할 수 있다는 것입니다. 왜냐하면 학습은 먼저 해결 알고리즘을 배울 수 있고, 그리고 이러한 상황에서는 학습 문제 자체를 해결하는 것도 배울 수 있기 때문입니다. 그래서 어떤 최소한의 학습 알고리즘에 도달할 때까지 계속됩니다. 하지만 그것도 배워집니다. 게다가, 이러한 상황에서는, NP 문제를 해결하는 P의 알고리즘에 대한 최소 다항식 지수가 있고, 그러면 구성적 학습의 특성들 때문에, 그것 아래의 알고리즘도, 즉 새로운 것이 그것을 통해 구축되고 더 낮은 다항식 지수를 가진 것도, NP 문제를 해결한다는 것을 보여줘야 합니다. 또는, 해결책을 구성하는 블록들 사이에서 정보를 나누고, 부조리함으로 귀납법을 통해 내려가야 합니다. NP 문제의 해결책은 모든 정보에 의존하고, 거기에는 분할 정복이 없다는 아이디어의 공식화를 통해서, 적어도 학습적 구성에서는 말입니다. 다항식성 자체는 학습이 구성적이라는 사실에서 나옵니다. 그리고 두 가지 기본적인 구성들은 알고리즘들의 결합과, 루프에서의 호출입니다. 즉 덧셈과 곱셈이고, 따라서 P에서의 다항식이 나옵니다. 즉 효율성과 해결의 용이성의 정의가 정확히 이것인 이유에 대한 설명입니다). 수학에서 기본적인 것들이 항상 어떻게든 이산적이고 무한한 과정이라는 것에 주목하세요: 소수들, 극한, 계산, 논리... 그리고 학습에서도 그럴 것입니다. 사실, 학습은 그것들 아래에 있기 때문에 이 현상의 원인입니다. 어떤 경우든, 이 공통된 특성으로부터, 그것들을 다루고 새로운 수학적 패러다임으로 돌파할 수 있는 능력이 나옵니다. 이는 언어를 넘어서는 것입니다(이것이 현재의 수학적 패러다임입니다). 그리고 나서 우리는 NP 문제가 실제로 얼마나 학습 문제인지 주목하게 됩니다(이는 잘못되게 언어를 통해 개념화되었고, 따라서 그것에 적합한 언어가 없는 것이 되었거나, 심지어 그 해결책을 파악하기 시작할 수도 없는 것이 되었습니다). 그러면 우리는 왜 학습을 통한 개념화가 그것의 자연스러운 해결 방향이라는 것을 이해하지 못했는지 이해하지 못할 것입니다. 왜냐하면 학습적 관점을 통해, 우리는 NP가 진화와 유사하다는 것도 보기 때문입니다. 여기서 학습은 메커니즘입니다(교배와 돌연변이)가 생존과 적합성 시험과 맞서 싸우는데, 생명체를 만들고 그것에서 혁신하기는 매우 어렵지만, 그것이 생존하는지 아닌지 확인하기는 매우 쉽습니다. 생물학은 항상 그것의 노력을 쉽게 판단하는 잔인한 자연에 대해 어려운 학습 위치에 있습니다. 그리고 여기서, 학습을 향한 길에서, 우리는 아름다움이 안내에서 역할을 한다는 것을 봅니다. 생물학이 누가 더 적합하고 덜 적합한지 지름길을 통해 추측할 수 있도록 말입니다. 그리고 수학에서도 마찬가지입니다. 증명의 어려운 기준은 아름다움의 부드러운 기준과 함께 갑니다. 이는 수학자들이 수학을 하고 수학적 학습에서 진보할 수 있게 해줍니다. 비록 이것이 원칙적으로 어려운 문제임에도 불구하고 말입니다. 그리고 우리의 사고도 아름다운 움직임에 의존합니다. 그리고 이렇게 우리는 철학도 판단합니다.

복잡성 이론의 철학

평가는 어떻게 수행됩니까: 학습의 정의의 일부로서 많은 평가 계층이 있나요, 아니면 NP에서처럼 끝에 하나만 있나요? 거기서는 평가 계층으로 분해할 수 없습니다. 음, 두 가지 자연스러운 학습의 예시가 학습이 무엇인지 이해하는 데 도움이 됩니다 - 뇌와 진화 - 그리고 이들에는 무한한 평가 계층이 있으며, 실제로 각 계층(또는 세대)에서 이전 것을 평가합니다(따라서 여성들은 진화에서 숨겨진 계층입니다 - 네트워크의 - 즉 각 세대를 심층 네트워크로 만드는 것입니다. 입력과 출력 사이의 내부 평가 계층으로서, 즉 자녀들입니다). 이와 같이, 같은 방식으로, 극한과 자연수는 우리가 연속과 이산 영역에서 수학의 일반화된 학습 개념이 무엇인지 이해하는 데 도움이 됩니다(그리고 뇌의 학습은 연속적이고, 진화의 학습은 이산적입니다). 하지만 이 추상화 자체를 넘어서서, 이는 수학의 모든 부분에 공통된 깊은 내용을 반영합니다(수학의 내용으로서의 학습). 우리는 또한 수학의 형태로서의 학습을 찾을 수 있습니다. 수학 자체 아래에 무엇이 있는가: 어떻게 수학을 배우는가. 예를 들어: 수학자를 정의하는 것. 현재, 학습 알고리즘은 다항식이어야 한다고 받아들여집니다. 하지만 학습 알고리즘에 대한 다항식성 제한은 일반적인 경우(수학자)에서는 맞지 않습니다. 따라서 우리는 인간으로서, 뇌로서, 우리가 효율적인 알고리즘을 가지고 있는 많은 일들을 하지만, 일반적인 효율적 학습은 없고, 있을 수도 없습니다. 일반적으로, 학습은 이전에 배운 것들을 사용하여 매우 제한된 경우에만 효율적입니다. 그래서 우리는 학습이 효율적인 과정이라는 환상을 가지고 있습니다. 우리의 대부분의 학습이 그렇기 때문입니다. 하지만 그러한 특별한 학습을 특징짓는 것은 그것이 지식의 학습이라는 것입니다. 따라서 우리 세계의 대부분의 학습은 지식의 학습입니다. 새로운 행동과 알고리즘의 학습은 항상 비효율적이기 때문입니다. 그렇다면, 지식이란 무엇입니까? 효율적인 학습 알고리즘이 있을 때입니다. 이것이 그것의 정의입니다. 우리가 배우는 거의 모든 것이 다른 사람들이 할 줄 아는 것들이라는 점에 주목하세요. 즉 우리는 준비된 함수들을 사용하고, 그것들로부터 구축하며, 우리의 학습을 준비된 함수들로 분해할 수 있습니다. 따라서, 학습을 그것을 만든 계층들의 구축으로 분해할 때, 문제를 하위 문제들로 분해하는 모든 가능한 분해들의 공간 자체의 구조에 대해 생각해야 합니다. 하지만, 교사로부터의 모든 학습 정의는 "시스템 내부" 문제를 극복해야 합니다. 즉 도움이 외부에서 학생을 프로그래밍하고 그들 사이의 속임수와 공모가 되지 않도록 해야 합니다. 하지만 분해가 최대 분해라면, 즉 너무 작은 조각들로 나눈다면, 그것은 정확히 프로그래밍과 같습니다. 이상적인 분해를 특징지을 수 있을까요? 프로그래밍과 동등한 완전한 부스러기로의 분해(최대 분해)와 NP 문제(최소 분해, 거기서는 끝에만 시험관이 있고 중간에 평가가 없습니다) 사이의 중간에 있는 것으로서 말입니다? 교사가 없다면, 진화처럼 이전 알고리즘들을 기반으로 하고 이전 증명들을 기반으로 하는 수학처럼 발전이 있습니다. 그러면 문제를 하위 문제들로 나누는 것이 자연스럽습니다. 누군가가 그것을 나누는 것이 아니기 때문입니다. 최대 분해는 알고리즘입니다, 쓰여진 코드로서, 그리고 최소는 문제 자체입니다, 평가자로서 - 그리고 중간에 학습은 그것들을 연결하는 것입니다. 즉 이 문제에서 알고리즘으로의 이행이 바로 학습 과정입니다. 즉: 더 많은 분할을 추가하는 것(위에서 아래로일 때, 교사의 관점에서) 또는 더 많은 구축 결합을 추가하는 것(아래에서 위로일 때, 학생의 관점에서), 그리고 학생만 있고 교사가 없을 때 이것이 발전입니다, 이는 자연스럽습니다. 다항식적 해결책은 이것을 더 단순한 하위 문제들로 분해할 수 있다는 것을 의미합니다, 즉 배울 수 있다는 것입니다. 따라서 배울 수 있는 것이 다항식적인 것을 특징짓고, 따라서 학습은 다항식적인 것의 한계를 이해하는 데 적합한 구축입니다(즉 그것을 NP와 구분하는 것). 왜냐하면 학습은 선형적인 것으로부터 다항식적인 것의 구축이기 때문입니다. 즉 단순히 모든 입력을 읽을 수 있게 하는 최소한으로부터, 따라서 다항식들은 자연스러운 집합입니다. 따라서 우리는 학습 가능한 최소 분해를 찾아야 합니다. 예를 들어 선형적 하위 문제들로의 최소 분해입니다. 최대 분해는 흥미롭지 않습니다. 그것은 코드 작성과 동일하기 때문입니다(그리고 선형적인 것은 물론 알고리즘적 영역에서 가장 기본적인 학습 블록들의 한 예일 뿐입니다. 그리고 예를 들어, 수론 분야에서는 곱셈에서의 인수분해일 수 있습니다. 또는 수학의 다른 문제들을 정의하는 다른 제한된 함수일 수 있습니다). 따라서, 우리의 학습 정의에서, 우리는 이상적인 예시 선택을 가정할 수 있습니다(교사에 의한 학습을 위해), 마치 우리가 최소 분해를 가정하는 것처럼. 배우는 것 - 그리고 가르치는 것도 - 계산적으로 제한될 필요는 없고, 구축적으로 제한됩니다. 그리고 이전 함수들을 사용한 구축의 이 모든 구조가 인간의 사고(예를 들어 논리와 언어와 계산과 인식으로부터)와 훨씬 더 비슷하다는 점에도 주목하세요. 우리는 우리가 할 줄 아는 것들을 어떻게 하는지 모르지만, 그것들을 가지고 일을 할 줄 압니다. 그것들을 통해 배웁니다. 하지만 우리는 어떻게 배웠는지 모릅니다, 그것은 블랙박스입니다. 그리고 우리가 학습에서 조합한 모든 함수들은 우리에게 블랙박스일 수 있습니다. 즉: 여기에는 학습의 두 부분이 있습니다. 한 부분은 배우고자 하는 구조를 정의하고 특징짓는 것입니다 - 또는 문제에 대해 하고자 하는 분해 - 이는 함수들에 대한 제한입니다: 기본 함수들이 무엇이고 그것들의 허용된 결합이 무엇인지. 그리고 여기에는 다른 부분이 있습니다. 모든 가능성 중에서 정확히 이 구축을 만드는 정보가 무엇인지 묻는 것 - 이것이 예시들입니다. 교사와 학생 사이의 공모를 막기 위해서는 구축이 특정 학습 알고리즘에서 이루어져야 하나요, 학습자의 모든 가능한 알고리즘에서가 아니라(예시들 안에 해결책을 코딩할 수 없도록)? 오캄의 면도날을 사용하여 예시들에 맞는 최소 길이의 조합으로, 또는 아마도 다른 단순한 탐색 알고리즘으로, 그러한 보편적(비효율적) 알고리즘을 선택할 수 있습니다. 그러면 문제(학습된 함수)를 하위 문제들(하위 함수들)로 분해하는 트리가 만들어집니다. 각 가지 분기에서 올바른 결합(올바른 구축)을 만들기 위해 필요한 예시들의 수와 함께(가지의 수는 그 위의 가지를 만드는 하위 함수들의 수와 같습니다). 그러면 아마도 분해의 차원(자세한 하위 문제들로의 분해처럼)과 예시들의 수 사이에 트레이드오프가 있을 것입니다. 그러면 트리는 NP 문제에서 무한대로 자랄 수 있습니다. 또는 구축하는 하위 블록들이 해결책을 단지 근사할 때(소수들처럼, 그들은 큰 소수들만 근사합니다. 모든 자연수를 펼칠 수 없기 때문입니다. 무한한 소수들이 있기 때문입니다. 그러면 소수들의 수에 비해 근사가 얼마나 완전하고 좋은지 평가할 수 있습니다 - 이것이 리만 문제입니다). 그러면 이것을 사용하여 구축의 불가능성 문제들을 표현할 수 있습니다. 만약 당신이 교사의 최소 노력과 최소 예시들을 요구한다면, 그러면 당신이 이미 배운 것들이 있다면, 당신은 다음 것을 배우기 위한 최고의 최소 예시들을 요구합니다. 그리고 이것 자체가 학습 과정에서 다음 것의 복잡성을 줄입니다. 예를 들어 규칙을 가르치고, 그 다음 추가 학습에서 예외를 가르치는 것이 더 좋기 때문입니다. 따라서 우리에게 완벽한 학생과 완벽한 교사가 있다면, 완벽한 학습이 어떻게 보이는지 물어볼 것입니다. 예를 들어, 교사는 어떻게 예시가 예외라는 것을 표시합니까? (규칙이 있기 위해서, 규칙의 한 예시와 반대되는 한 예시만 있는 것이 아니라 - 만약 그것들이 동시에 주어진다면, 즉 연속적 분해 없이 - 이는 실제로 규칙을 분해할 수 있습니다. 예시들 중 어느 것이 규칙이고 어느 것이 예외인지 어떻게 알 수 있겠습니까)? 음, 그는 하지 않습니다. 그는 단순히 먼저 규칙을 가르칩니다. 그리고 나서 그 후에, 다음 구축 계층에서, 규칙이 배워진 후에, 그는 예외를 가르칩니다. 그러면 학습자가 할 수 있는 가장 짧은 것은, 이미 규칙인 함수를 가지고 있다고 가정하면, 그가 이미 배웠다면, 단순히 하나의 예외를 추가하는 것입니다(특정 경우들에서). 그리고 이렇게 분해는 예시들의 수를 절약할 수 있습니다. 그리고 분해의 정보는 특정 경우들에서, 심지어 가르치는 것에 있는 것보다 더 적은 정보로 학습을 가능하게 할 수 있습니다(왜냐하면 학습 자료의 순서 자체에서 교사가 주는 분해의 정보는 계산되지 않기 때문입니다). 이것이 학습적 구조주의입니다.

계산적 학습의 철학

그렇다면, 당신은 함수들/알고리즘들/오라클들의 목록이 있고 그것들의 제한된 조합인 함수가 있으며, 당신은 최고로 선택된 예시들로부터 그것들을 배웁니다. 당신에게 계산적 제한이 없을 때. 그리고 교사에게도 없습니다. 그리고 질문은 문제를 하위 함수들/알고리즘들로 분해하면서 가능한 최소 예시들이 무엇인가 입니다. 당신이 오캄의 면도날에 따라 배울 때(예를 들어 알고리즘의 복잡성, 그것의 길이, 또는 다른 단순성 기준에 따라). 만약 분해가 무료로 온다면 전체 예시 수를 보고, 그러면 분해는 최대가 됩니다. 즉 학습은 가능한 한 가장 점진적입니다. 대안적으로, 예시들과 분해 사이의 관계를 볼 수 있습니다(필요한 예시들의 수와 주어진 분해의 하위 문제들의 수 사이의 관계). 이는 물론 역관계입니다. 또는 같은 문제의 다른 분해 트리들의 다른 위상들을 검토할 수 있습니다(얼마나 많은 본질적으로 다른 방식으로 같은 문제를 분해할 수 있나요?). 우리의 목표는 문제를 비자명한 방식으로 문제들로 분해하는 방식으로 학습 트리를 구축하는 것입니다. 왜냐하면 만약 우리가 최소 분해를 본다면, 분해가 비싸고 예시들이 무료일 때, 우리는 자명한 분해를 얻을 것입니다. 즉 분해가 없고, 우리는 원래 문제로 돌아갑니다. 거기에는 단지 시험과 예시들만 있고, 이는 NP와 비슷합니다. 따라서, 우리는 또한 이러한 모든 가능한 분해들을 볼 수 있습니다. 아마도 특정 함수들에서 무한히 많은 것들, 그리고 그것들이 어떻게 서로로부터 파생되는지, 그리고 그러한 트리들의 숲의 특성이 무엇인지 볼 수 있습니다. 그리고 나서 분해들의 수와 예시들의 수 사이의 특정 관계에 있는, 분해의 표준 형태를 찾을 수 있습니다. 결국 흥미로운 것은 예시들이나 그것들의 수가 아니라 트리 구조들입니다 - 알고리즘을 하위 알고리즘들로 분해하는 것이 무엇인가. 또는 문제를 하위 문제들로. 또는 정리를 가능한 모든 증명들로 분해하는 것(그리고 수학 전체 자체에 대해서도 증명들의 그래프로 생각할 수 있고, 그것을 그래프로서 연구할 수 있으며, 아마도 이 그래프의 구조와 수학적 구조들 사이의 연결을 찾을 수 있습니다). 그리고 만약 교사가 주는 분해가 충분히 작은 하위 문제들로 자세히 분해한다면, 아마도 학습을 위한 효율적인 알고리즘이 있을 것입니다(즉 예시들에 따른 구축 조합을 찾는 것). 그리고 아마도 단순한 나이브 탐색조차 효율적일 것입니다. 정말로 찾기 어려운 것은 분해이기 때문입니다. 하지만 만약 분해가 최소 예시 수에서 나온다면(즉 최소 예시 수가 반드시 최대 분해를 필요로 하는 것은 아니다) 이는 그것에 힘을 줍니다(이중적 의미로). 그리고 여기서 우리는 구축에서 허용되는 것을 제한할 때 다른 구축 문제들을 만드는, 하위 함수들의 다양한 결합 함수들에 대해 생각하기 시작할 수 있습니다. 예를 들어: 교사가 준 예시를 줄 함수들의 선형 조합만, 또는 증명 예시처럼 증명할 증명 시스템, 또는 군을 배우는 것. 이것도 단순한 함수입니다(덧셈). 그리고 만약 그것을 하위 문제들로 분해한다면 그것의 모든 원소들의 조합보다 더 적은 예시들로 배울 수 있습니다. 그리고 아마도 심지어 그것에 있는 것보다 더 적은 정보가 예시들에 있을 것입니다(왜냐하면 앞서 말했듯이 나머지 정보는 분해에 숨겨질 것이기 때문입니다). 그러면 우리는 군에 얼마나 많은 예시적 정보가 있는지, 또는 다른 수학적 구조에 얼마나 많은지 물을 수 있고, 이것이 학습적 정보의 정의가 될 수 있습니다(언어적 정보와 대조적으로). 왜냐하면 예시들로부터의 일반화는 이미 있는 것을 기반으로 하지 않으면 정당화되지 않기 때문입니다(당신이 이미 배운 함수들, 즉 교사가 문제를 하위 문제들로 분해할 때 처음에 당신에게 보여준 더 단순한 함수들. 이것으로부터 당신은 더 복잡한 것을 배웁니다. 아기의 학습이나 진화의 발전처럼 - 이것이 학습의 기본 특성입니다). 즉 이미 배운 것을 사용하라는 일종의 힌트가 있습니다. 당신이 이미 아는 것이 당신의 사전 지식입니다. 그리고 연속 함수에서 이것은 극단적입니다(왜냐하면 당신은 불필요하게 그것을 복잡하게 만들면 안 됩니다. 그렇지 않으면 단순한 함수들조차 절대 배우지 못할 것이고, 당신은 오캄의 면도날 때문에 먼저 단순성에 매여 있습니다). 따라서 당신이 아는 것으로부터의 최소 조합이 필요합니다 - 교사가 준 새로운 예시를 생성하는. 그리고 만약 당신이 단순성에 매여 있다면 이것은 속임수에 면역이 됩니다. 왜냐하면 만약 공모가 있다면(예를 들어 만약 교사가 예시 안에 학생에게 필요한 가중치를 코딩한다면), 그러면 이것은 오캄의 면도날 조건을 만족하지 않습니다. 알고리즘은 가장 단순한 것을 주지 않기 때문에 거부됩니다. 학생은 임의의 조합을 선택할 수 없고 가장 단순하고 최소인 것을 선택해야 합니다. 단순성에 대한 내부 기준이 있고, 이는 평가하는 쪽, 여성적인 쪽을 채웁니다(평가의 중간 계층들). 그리고 또한 조합 함수가 있습니다(이는 특정 종류의 수학적 구조의 각 학습에서 다릅니다. 예를 들어: 그래프 학습, 군 학습, 연속 함수 학습 - 다항식 근사나 대안적으로 푸리에 변환 등으로 구축할 수 있는, 알고리즘 학습, 증명 학습, 게임 학습, 위상 학습, 언어 학습 등). 그리고 겉보기에 절약되는 정보 - 계산되지 않는 - 는 구조적입니다. 즉: 구조적 분할(분해)에서 나오는 것이고, 따라서 만약 배우는 것에 전혀 구조가 없고 단지 잡음만 있다면 학습은 모든 정보의 전달이어야 할 것입니다. 즉 이것은 학습이 아니라 언어적 정보의 전달입니다.

기계 학습의 철학

여기서 기본적인 질문은, 수학의 모든 역사에서 반복되어 온 것인데: 함수는 어떻게 생성되는가? 아마도 그것은 자연에서 물리적으로 생성될 수 있고(존재론), 아마도 그것은 기하학적으로 생성될 수 있으며(시각), 아마도 그것은 인식될 수 있고(이성), 아마도 그것은 정의될 수 있으며(논리), 아마도 그것은 계산될 수 있고, 아마도 그것은 학습될 수 있습니다. 즉: 하위 함수들로부터 구축됩니다. 그리고 여기서, 함수 정의의 부분들로부터, 오늘날 컴퓨터 학습에서 모든 주요 학습 연구 분야가 나옵니다. 학습에서 함수의 출처(수학적 용어로 도메인)가 없을 때 이것은 강화 학습입니다(그리고 단순성은 가장 단순한 함수를 생성할 가장 단순한 출처를 찾습니다). 그리고 함수의 범위가 없을 때 이것은 비지도 학습입니다(그리고 단순성은 가장 단순한 함수를 생성할 가장 단순한 범위를 찾습니다). 그리고 함수의 단순성이 하위 함수들의 구축(얼마나 복잡한지)뿐만 아니라 예시들 자체로부터의 구축으로도 간주될 때 이것은 통계적 학습입니다(예시들로부터의 거리가 단순성 계산의 일부입니다). 학습의 정의는 학습되는 수학적 객체를 분석하고 그것의 내부 구조를 찾는 것을 목표로 합니다. 그것의 목표는 계층(하위 문제들로의 분해)과 예시들을 통해 그것을 구축하는 것입니다. 즉: 두 가지 유형의 구조적 정보를 통해, 두 가지 구조를 결합할 수 있게 합니다: 위에서 아래로(수직적), 그리고 옆에서(수평적) - 다른 예시들은 각 단계에서, 아래 층으로부터의 다른 병렬 조합 가능성입니다. 따라서 수학에서 모든 것은 구조의 부재와 과잉 구조 사이를 움직입니다. 너무 많은 자유도와 너무 적은 자유도. 따라서 그것의 경계는 한편으로는 의미 있는 것을 말할 수 없을 정도의 극단적인 무작위성과 복잡성이고, 다른 한편으로는 너무 단순하고 사소하며 정보와 풍부함이 부족한 구조입니다. 따라서 항상 그 안에서 프랙탈 경계를 찾아야 합니다 - 거기에 아름다움이 있습니다. 그리고 거기에 수학적 관심도 있습니다. 왜냐하면 거기에 무작위적이고 불투명한 정보(해독할 수 없다는 의미에서), 또는 사소하고 불투명한 정보(해독할 것이 없다는 의미에서, 왜냐하면 그것은 밀폐되어 있기 때문에)와는 대조적으로, 가장 많은 학습적 정보가 있기 때문입니다. 그리고 왜 이것들이 수학의 기본 특성일까요? 왜냐하면 모든 것이 학습되고, 학습성은 구조성의 뿌리이며, 또한 구조성의 복잡성의 뿌리이기 때문입니다. 왜냐하면 이것은 결코 일차원적 구조가 아니라 항상 이차원적 구조이기 때문입니다(이것이 그것을 구축으로 만듭니다), 마치 우리가 숫자에서 가지고 있는 것처럼(덧셈과 곱셈). 그리고 주목해보면, 위에서 정의된 학습에서의 단순성은 온라인이며, 단순한 오캄의 면도날처럼 전체를 대상으로 하지 않습니다(MDL, 솔로모노프, 또는 콜모고로프 복잡성에서). 즉: 우리는 첫 번째 예시 후에 가장 단순한 가설을 찾고, 그런 다음 그것(이 가설)을 아래에 있는 또 다른 준비된 함수로 취하고, 다음 예시를 추가한 다음, 이전 가설을 비용이 없는 것으로, 즉 단순한 것으로 고려하면서 가장 좋고 단순한 가설을 찾습니다. 즉: 첫 번째 단계에서 이미 학습된 함수는 더 이상 복잡성과 단순성 계산에서 계산되지 않습니다. 그리고 아마도 단순성 함수의 보편적이고 단순한 정의가 가능할 수도 있습니다 - 단순히 조합의 수로서. 즉 단순성은 단지 조합의 아이디어의 산물일 뿐이며, 독립적인 기준과 평가가 아닙니다.

수학의 철학: 요약

이 모든 것을 통해, 우리는 학습을 통해 유한과 무한의 차이를 학습된 것과 학습되지 않은 것의 차이로 새롭게 특징지을 수 있으며, 이는 이 두 범주 사이에 더 정확한 구분을 만듭니다. 대수적 구조, 유한한 것은 항상 결국에는 학습됩니다. 반면에 무한한, 연속적인 구조의 범주는 오직 극한에서만 전체적으로 학습될 수 있으며, 즉 그것은 유한하게 학습되지 않습니다. 무한성은 옆으로 향할 수 있고(각 단계의 예시들의 집합에서), 또는 위로(조합에서) 또는 아래로(시작하는 기본 함수들의 집합에서) 수직적일 수 있습니다. 그리고 이러한 관점에서, 연속성과 단순성은 관련이 있습니다. 모든 것은 유한하지만 근사될 수 있습니다. 즉: 극한은 계산될 필요가 없고, 대신 학습될 수 있으며, 거리를 줄일 수 있습니다. 그리고 만약 단순성 측정 함수에 근사를 추가한다면(이산성에서 요구되는 정확성과 대조적으로, 예시들을 재현해야만 할 때 - 이것이 실제로 이산성의 정의입니다), 그러면 도함수의 아이디어는 함수에 대한 선형 근사입니다(즉 선형 구축만이 허용된다면), 그리고 계속됩니다(더 높은 도함수들에서, 이들은 학습에서 더 높은 층들이며, 급수까지). 그리고 연속성은 영차 도함수입니다 - 상수. 즉, 무한소 계산에서 단순성이란 무엇입니까? 조합이 아닌 예시들에 대한 단순성입니다(또는 선형 회귀에서처럼 조합에 대해서도). 그리고 적분은 역문제, 교사의 문제입니다: 어떻게 학생의 평가 - 그의 근사 - 가 특정 함수처럼 보이게 만드는 함수를 찾을 수 있을까요. 그리고 이산적인 세계에서, 예시들에 의해 정확하게 통제되는, 우리는 끝까지 배울 수 없는 것들에서 무한한 문제들을 발견합니다, 소수들처럼(구축에서 허용되는 조합이 곱셈일 때). 그리고 그러면 예를 들어 자연수의 조합 트리가 얼마나 복잡한지 평균적으로 물을 수 있습니다(즉 그들의 소인수분해, 가장 적은 예시들로 배워지는). 자연수 집합을 구축하는 방법을 이해하는 것은, 조합이 곱셈일 때, 교사가 특정 수까지의 자연수를 구축하기 위해 주어야 하는 예시들의 양의 분포가 무엇인지 아는 것을 의미합니다. 즉, 수학의 기본 질문들에 대한 학습적 공식화가 있습니다 - 이는 이 질문들에서의 진전을 막고 있는 부적절한 개념적 프레임워크 때문에, 언어 패러다임이 바뀌는 순간 그들에게 학습적 해결책을 가능하게 할 것입니다. 그리고 이렇게 철학은 수학을 - 그리고 수학적 학습을 - 도울 수 있습니다.

컴퓨터 학습의 철학

컴퓨터 과학의 철학 다음 단계는 컴퓨터 학습의 철학입니다. 오늘날 딥러닝의 상태는 인터넷 이전의 개인용 컴퓨터의 상태와 같습니다. 그리고 미래는 딥러닝 네트워크들과 기계 학습 분류기들의 인터넷 네트워크이며, 이들은 프로토콜로 서로 연결되어 있고 학습적 구축에서 그들을 조합하는 능력을 만듭니다. 즉: 각각이 무언가에 특화된 여러 딥러닝 모듈들을 큰 시스템으로 연결하는 것입니다. 이 시스템은 뇌처럼 세상에 대해 많은 것을 실제로 알고 있으며, 특정 데이터로 훈련된 고립된 전문가 시스템들만이 아닐 것입니다. 이러한 딥 네트워크들의 네트워크는 일종의 시장이 될 것이며, 거기서는 약간의 분류나 다른 능력이나 행동에 대해 약간의 돈을 지불하고, 거대한 인공 학습 생태계가 만들어집니다. 그리고 그것은 큰 지능을 향한 서막이 될 것입니다 - 그리고 그로부터 인공 지능이 성장할 것이며, 어떤 특정 시스템으로부터가 아닙니다 - 그것은 어느 날 어떤 실험실의 어떤 네트워크에서 결정되지 않을 것이며, 대신 네트워크로부터 나올 것입니다. 이러한 지능의 자연스러운 범주들은 무엇일까요? 계산의 세계에서 튜링 기계가 공간의 개념을 메모리로, 즉 공간을 차지하는 정보로 새롭게 정의했고, 시간의 개념을 계산의 작업들로, 즉 시간이 걸리는 것으로 정의했듯이(그리고 여기서 - 효율성), 딥러닝은 이것들을 새롭게 정의합니다. 이제 공간이란 무엇입니까? 컨볼루션 네트워크에서처럼 로컬한 것, 즉 어떤 것이 그것에 가까운 것들에 영향을 미치는 시스템입니다. 그리고 시간이란 무엇입니까? RNN에서처럼 지속되는 기억, 즉 어떤 것이 그것으로부터 멀리 있는 것들에 영향을 미치는 시스템입니다. 이전 세계, 계산의 세계는 공간의 중요성을 낮췄고(모든 것이 메모리에 있기 때문에), 그것의 자연적 차원들을 무효화했으며(메모리는 본질적으로 일차원적입니다), 반면에 시간의 차원과 속도를 강조했습니다. 그리고 여기, 딥러닝의 세계에서, 우리는 시간의 차원이 더 이상 일차원적이지 않을 수 있다는 것을 봅니다. 왜냐하면 것들이 여러 방향에서 멀리서 영향을 미칠 수 있기 때문입니다 - 그리고 한 차원 이상에서. 두 개 이상의 시간 차원을 가진 딥러닝 네트워크가 확실히 가능합니다, 즉 시간 차원에서 한 방향으로만 뒤로 재귀적이지 않고, 두 개 이상의 변수/방향에서 재귀적인 자신의 복사본들에 연결된 네트워크입니다. 즉, 만약 계산이 공간의 시간화였다면(모든 것이, 돈을 포함해서, 시간과 동등합니다), 딥러닝은 시간의 공간화가 될 수 있습니다(모든 것이 공간이 될 것이며, 시간들도 마찬가지입니다).

딥러닝의 철학

딥러닝은 무엇으로 구성되어 있습니까? 수학에서 배우는 가장 기본적이고 원시적인 두 가지, 즉 1학기에서 배우는 것들입니다: 선형대수학 1과 미적분학 1. 선형대수학은 우리가 이야기했던 조합입니다(그리고 그것은 존재하는 가장 단순한 조합입니다: 선형 조합). 그리고 또한 도함수가 있는데, 이는 방향을 제공하며, 세 번째 나타니야후 공리에 따릅니다(도함수는 방향이므로 가장 단순한 방향입니다). 즉: 학습은 실제로 무엇을 합니까? 예시들을 방향들로 대체합니다. 그리고 무엇이 학습을 깊게 만듭니까? 이 모든 구축이 시스템 내에서 이루어진다는 것입니다. 이것이 시스템의 깊이입니다(그리고 두 번째 공리). 그리고 학습은 더 이상 항상 시스템의 표면 근처에 있지 않습니다, 언어에서처럼, 시스템과 외부 예시들 사이의 대화에서(네트워크의 바닥과 꼭대기에서). 그리고 추가로, 각 층은 그 아래 층에 대해서는 여성이고 위 층에 대해서는 남성입니다, 네 번째 나타니야후 공리에 따라. 즉 우리는 여기서 모든 공리들의 현장에서의 실현을 봅니다(당신이 주목한다면 첫 번째도). 정말로 예언과 같습니다. 그리고 또한 주목해보면, 여기에는 학습의 역사 전체를 통해 서로 경쟁해온 두 가지 요소가 있습니다: 방향 대 구조. 여기서 우리는 그것들을 학습 시간 동안 뒤로 모든 것을 확산시키는 그래디언트 도함수에서(방향) 대 특정 모델의 구축에서(예를 들어 네트워크의 특정 아키텍처, 미리 정해지는, 하지만 더욱이 오늘날 덜 인기 있는 여러 아이디어들, 예를 들어 모든 문제에 대한 딥 네트워크의 일반적 접근 대신 특정 문제에 대한 강한 사전 지식을 가진 특정 학습 모델 만들기) 봅니다. 그리고 이 모든 것은 환경 대 유전, 경험주의 대 합리주의, 아리스토텔레스 대 플라톤이라는 오래된 문제의 우리 시대의 화신일 뿐입니다. 또는 자유 경쟁과 보이지 않는 손(방향의 세계) 대 사회주의와 국가(구조의 세계), 자유주의 대 보수주의, 그리고 라마르크식 진화(방향적 극단에서) 대 지적 설계(구조적 극단에서). 수학적 수준에서, 방향은 연속적이며, 해석학과 기하학의 세계와 관련이 있고, 반면에 구조적 조합은 언어적이며, 대수학과 논리학의 세계와 관련이 있습니다. 그리고 딥러닝은 이 변증법에서 구축에 대한 방향의 학습적 접근의 엄청난 승리입니다(하지만 반동이 올 것입니다), 그리고 그것은 자본주의와 민주주의의 승리와 평행을 이룹니다(커뮤니케이션과 선거의 방향 대 관료적이고 통치적 구조), 또는 사회에서 구조를 희생하면서 쾌락주의가 지배하는 것. 왜냐하면 딥러닝에서는 구조가 단순히 많은 피드백과 방향보다 훨씬 덜 중요하다는 것이 밝혀졌기 때문입니다(하지만 물론 여기에는 종합이 있습니다. 왜냐하면 딥러닝만큼 높은 계층구조가 어디 있습니까? 단지 계층구조의 세부사항이 덜 중요하다는 것이 밝혀졌을 뿐이며, 실제로 그 안의 모든 것이 방향을 통해 결정되어, 꽤 일반적인 학습 메커니즘이 만들어졌습니다. 이는 일종의 경험적 백지 상태입니다). 따라서, 학습이 무엇인지 이해하기 위해서는, 아마도 필요한 것은 학습에 필요한 예시들과 필요한 구조 제공 사이의 관계를 취하는 것입니다, 즉 그것이 어떻게 변하는지(그들 사이의 관계). 더 많은 예시가 필요할수록 더 적은 구조가 필요하고, 반대도 마찬가지입니다. 그리고 이 함수가 어떻게 생겼는지 이해하는 것, 그리고 이것이 중요한 연구라는 것을 이해하는 것이지, 구조가 예시들보다 더 중요한지 덜 중요한지가 아닙니다. 예를 들어 이 함수가 선형인지, 다항식인지, 지수함수인지 등을 알아내는 것입니다, 다른 문제 영역들에서(예를 들어 다른 수학적 객체들을 학습할 때, 그리고 또한 현실의 다른 문제들에서). 즉, 물어야 할 것은 예시들의 양과 사전 지식의 양 사이의 관계가 무엇인가 입니다. 그리고 이것은 기계 학습의 핵심에 있는 분산 대 편향의 동일한 문제입니다(하지만 딥러닝의 핵심에는 덜 있습니다, 분산이 편향에 대해 큰 승리를 거둔 후, 딥러닝의 무수한 파라미터들과 함께, 이는 제약조건들의 수보다 훨씬 많습니다).

뇌과학의 철학

헵의 규칙과 같은 규칙(딥 네트워크들의 전역성에 비해 매우 지역적이며, 긍정적이거나 부정적인 자기 피드백으로 기울어지는)을 가능하게 하는 개념적 기반은 무엇입니까? 헵의 규칙이 기본적인 학습 메커니즘으로서 어떻게 가능할까요, 방향들과도 - 구조와도 관련이 없고, 외부와도 - 내부와도 관련이 없는? 음, 헵의 규칙은 단지 "발사하고 연결된다"(함께 발사하는 뉴런들이 함께 연결됩니다 - fire&wire 형제들)가 아니라, 그것의 진정한 공식화는 내가 나를 예측한 사람으로부터의 연결을 강화하고, 내가 예측한 사람으로부터의 연결을 약화시킨다는 것입니다. 따라서, 이 규칙은 뉴런들이 주로 정보 전달자이면서도 독립적인 질적 평가자라는 가정 하에서만 합리적이며, 그러면 이 규칙은 평판을 만들고, 그것을 퍼뜨리기 위해 새로움을 찾습니다. 또한 그것은 순환성에 반대하기 때문에 층들을 만듭니다. 그것은 식별하는 첫 번째를 찾으므로, 누가 첫 번째로 식별할 것인지에 대한 경쟁을 만듭니다, 즉: 그것은 경쟁적인 규칙입니다. 하지만 뉴런에 대한 어떤 한 소스도 50퍼센트를, 또는 적어도 고정된 임계값을 넘어서는 안 됩니다, 그렇지 않으면 그것은 타락한 긍정적 순환 피드백입니다(추가로, 물론 이 규칙만으로는 충분하지 않습니다, 왜냐하면 그것은 자폐적이며, 외부 피드백을 제공하는 신경전달물질도 필요하고, 아마도 다른 형태의 피드백도 필요합니다). 즉, 헵의 규칙은 당신이(뉴런으로서) 독립적인 평가 능력을 가지고 있고 그것을 암시한다면(!) 작동할 수 있습니다. 그리고 그러면 그것에 대한 경쟁이 있습니다. 따라서 그것은 표면적으로는 뉴런 네트워크보다 인간의 사회적 네트워크에 더 합리적입니다. 하지만 뇌의 연결체, 또는 심지어 단일 뉴런 네트워크의 어떤 빠른 관찰에서도, 뇌가 무질서와 다양성과 잡음과 복잡성을 만드는 방법들에서 매우 매우 멀리 나아가는 것처럼 보입니다, 아마도 헵의 규칙이 사소성으로 수렴하는 것을 막고, 그것이 작업할 수 있는 충분히 다양하고, 확률적이고, 혼돈적이고 불안정한 재료들을 제공하기 위해서일 것입니다. 헵의 규칙은 정보를 내용으로 취급하며, 계산의 작업으로 취급하지 않습니다(뉴런 네트워크를 일종의 분산되고 병렬적인 컴퓨터로 보는 관점처럼). 즉, 많은 중복성이 있을 때(뇌에서처럼, 또는 다른 많은 학습 시스템들에서), 그리고 모두가 같은 선상에 있을 때, 당신이 앞으로 전달하는 올바른 메시지를 선택해야 합니다, 상대적으로 작은 파라미터들의 변화와 함께, 즉 이것이 더 많은 정보 전달에 관한 것이고 계산에 관한 것이 덜할 때. 그리고 이 맥락에서, 뇌에서 위에서 아래로의 예측의 전체 이야기는(예를 들어: 각 상위 층이 그 아래 층을 예측할 때, 그리고 이렇게 예를 들어 내가 받게 될 감각 데이터를 예측합니다) 아마도 헵의 규칙과 깊은 관련이 있습니다. 왜냐하면 내가 예측하는 사람의 말을 듣는 것은 정말 중복적이기 때문입니다. 그리고 만약 그렇다면, 여기에는 계산보다는 추측과 수렴의 과정이 있습니다. 따라서 예측이라는 단어를 추측으로 대체해야 합니다. 이러한 관점에서, 뇌는 아래에서(위로)의 계산과 위에서(아래로)의 추측을 통해 작동하며, 그리고 그들 사이의 충돌 지점들이 있습니다, 또는 충돌 층들이 있으며, 누가 옳았는지(그리고 계속을 예측하거나 계산했는지)가 거기서 다른 것을 결정합니다. 만약 각 상위 층이 아래에 있어야 할 것을 말하고, 그 반대도 마찬가지라면, 이 과정의 수렴은 오류의 근원을 찾을 수 있게 해주며, 이는 잘못된 평가가 튀어오르기 시작하는 지점이며, 거기서 문제가 급격히 증가합니다. 즉, 아래에서 올라오는 계산이 이 지점에서 잘못되어 부정확해졌고, 그 다음 위 층들로 오류를 전파했거나, 또는 위에서 내려오는 추측이 이 지점에서 잘못되어 부정확한 것으로 판명되었고, 그 다음 아래 층들로의 추측에서 오류를 전파했습니다. 따라서, 진정한 뉴런은 내용 평가자이며, 단순히 평가받는 것만이 아닙니다. 왜냐하면 그것은 누구의 말을 들을지 결정하기 때문입니다. 즉 그것은 전달하는 모든 내용에 대해 특별히 평가받고, 받는 모든 내용을 특별히 평가합니다. 그것은 무한한 긍정적이거나 부정적인 피드백 메커니즘을 두려워하지 않습니다, 거기서 그것은 한 친구의 말만 듣고 다른 누구의 말도 듣지 않는데, 왜냐하면 그것은 충분한 잡음이 있는 충분한 의견들을 듣고, 아마도 누군가의 말을 얼마나 들을지에 대한 제한도 있기 때문입니다(아마도 예를 들어 로그함수적일 수 있습니다). 즉 우리는 각 뉴런이 외부 피드백과 위로부터의 지도뿐만 아니라 평가를 위한 본질적인 측정 방법들도 가질 수 있다는 것을 봅니다, 예를 들어: 그가 나를 예측하는지, 그리고 그가 현재 내 위에 있는 사람의 예측에 맞는지. 딥러닝에서의 일반적인 사고는 네트워크의 두 방향을 분리된 것으로 보는 것입니다, 두 개의 분리된 단계로 오는: 아래에서 위로의 계산(전방 전파)과 위에서 아래로의 피드백(후방 전파). 하지만 우리는 그것들을 시스템에서 동시에, 비동기적으로 그리고 양방향으로 그들의 강도에 따라 시간에 따라 진행되는 파도로도 생각할 수 있습니다, 즉 때로는 특정 진행이 불만족스러운 뉴런에서, 또는 그러한 전체 층에서 멈추고, 뒤로 피드백을 보내기 시작하며, 그 반대도 마찬가지이고, 반사와 메아리와 거친 바다가 있으며, 그것이 특정 상태로 수렴할 때까지, 그리고 이것이 네트워크의 진정한 계산 메커니즘입니다(단순히 아래에서 위로만이 아닙니다). 그리고 이렇게 훈련과 실행/예측은 두 개의 분리된 단계가 아닙니다, 마치 후방 전파와 전방 전파가 병렬로 일어나는 것처럼. 그리고 이것이 아마도 뇌에서 일어나는 방식일 것입니다. 그리고 만약 각 층이 그 이전 층을 예측한다면, 때로는 심지어 입력 층에서도, 데이터로부터도 피드백이 반환될 것입니다, 이는 현재 딥러닝에서는 일어나지 않으며, 이는 유감스럽습니다, 왜냐하면 우리는 이 반향을 놓치고 있고, 후방 전파 신호의 정보는 입력 층에 도달할 때 사라지고 손실됩니다(우리는 이 정보를 실제 입력과 비교하는 데 사용하지 않습니다). 하지만 만약 모든 처리 단위가 위로부터 지도를 받고, 독립적으로(단순히 후방 전파의 일부로서가 아니라) 아래로 지도를 출력한다면, 아래와 위 사이의 만남에서 위에서 내려오는 그래디언트나 평가는 아래에서 올라오는 것과 만나게 됩니다, 계산에서 있었던 것과. 그리고 만약 불일치가 있다면 문제가 있습니다. 양쪽 모두에게. 그리고 만약 그들이 신호가 어느 방향으로 변해야 하는지에 대해 동의하지 않는다면, 불일치에 주의를 기울여야 합니다. 그리고 시스템의 자원들을 그것으로 향하게 하고, 이렇게 혁신이나, 놀라움이나, 문제들에 주목할 수 있습니다. 예를 들어, 미시적 수준에서, 만약 받아들여지지 않는 뉴런이 있다고 말한다면, 그로부터의 가중치들이 거의 0에 가깝다면, 그것은 더 유용하고 흥미로운 기능이 되라는 부정적인 피드백을 받은 것입니다. 그리고 만약 그것이 일관되게 강한 모순되는 피드백을 받는다면, 아마도 그것은 두 개의 뉴런으로 분할되어야 할 것입니다. 그리고 만약 두 뉴런의 연결이 너무 비슷하다면, 아마도 그들은 하나로 통합되어야 할 것입니다. 즉 우리는 피드백과 불일치에 따라 아키텍처를 설계할 수 있습니다. 그리고 거시적 수준에서는, 이것은 시스템이 놀라움을 찾고, 미래 예측에서 실수한 예들을 찾을 수 있게 해주며, 이것이 호기심입니다. 예를 들어, 만약 위층이 그 아래층을 예측하는 데 실패했다면, 해결책에 도달할 때까지 비슷한 예들을 계속 연구합니다. 왜냐하면 더 올바른 시스템적 사고는 이미 학습한(많이) 네트워크에 대한 것이기 때문입니다. 그리고 그러면 그것은 또 다른 예를 더 학습하거나, 과거에 맞지 않는 새로운 예를 만납니다. 오늘날의 사고방식과는 대조적으로 네트워크가 모든 예들을 처음부터 학습하기 시작합니다(유아적 사고). 그리고 따라서, 문제를 식별했을 때, 파라미터 검색 공간은 단순한 최적화가 아닌 검색처럼 작동해야 합니다 - 탐색입니다. 그리고 더 많은 혁신을 제안합니다 - 새로운 조합들. 독립적인 평가가 있을 때, 거기서 층이 자신만의 측정 기준으로 그 아래층을 판단하며, 단순히 위층에서 받은 지도(후방 전파에서)에 따라서만이 아닙니다, 당신은 또한 검색을 수행할 수 있고, 전체 경로를 따라 검색 공간을 줄일 수 있습니다(즉 다른 층들 사이에서, 그래서 검색이 무차별 대입으로 무한한 조합으로 폭발할 필요가 없습니다). 인공지능 연구의 첫 번째 세대는 검색이었습니다(중심적인 알고리즘적 패러다임으로서, 예를 들어 논리적 추론에서), 반면에 오늘날 인공지능은 검색을 불처럼 피하고, 그것을 최적화로 대체했습니다(연속적인 파라미터들의 조정과 통계에서), 하지만 미래에는 그들 사이의 종합이 있을 것입니다. 검색도 제공할 것이 있습니다(단순히 폭발하는 것만이 아니라), 만약 그것을 올바르게 관리한다면, 그리고 실제로 뇌에서는 많은 경우에 검색이 수행되며, 진화에서도 마찬가지입니다, 왜냐하면 이것은 더 창의적인 혁신을 가능하게 하는 방법이기 때문입니다 - 조합과 그것의 평가를 통해. 철학 자체도 만약 그것이 단순히 그것의 평가 함수에 대한 최적화였다면 매우 지루하고 아첨적이었을 것이며, 그것이 검색이라는 사실이 그것을 어렵고 흥미롭게 만드는 것입니다 - 그리고 창의적이게, 그것의 평가와의 투쟁에서. 그리고 왜 진화는 무차별 대입 검색보다 빠른가? 진화의 성공은 조합 능력 자체에서 나옵니다, 즉 처음에는 검색이 단순한 조합들로 이루어지고, 그 다음에, 다음 층들에서, 검색 단계들이 커지며, 그 자체로 복잡한 부분들의 조합들과 함께. 그리고 각 단계에서(즉 층에서) 생물체의 독립적인 평가가 있습니다. 그래서 이것은 무차별 대입이 아닙니다 왜냐하면 학습의 이전 단계들이 다음 단계들에 영향을 미치고, 그들을 안내하기 때문이며, 따라서 검색은 모든 가능성의 공간에서 이루어지는 것이 아니라, 단지 진행하는 빔에서만 이루어집니다. 그렇다면, 조합과 세대(=층들)의 현상은 학습에서 기본적입니다. 즉: 딥러닝에서도 뇌에서도 진화에서도 일반적인 학습의 정의에서도, 우리는 블랙박스인 많은 구성 요소들을 가지고 있으며, 그들 사이에 구축 중인 연결들이 있습니다(이를 각 특정 경우에서 특성화해야 합니다: 딥러닝에서는 비선형성의 트위스트가 있는 선형 조합들, 진화에서는 - 교배, 그리고 다른 시스템들에서도 계속). 위로 향해서는 그들은 아래를 사용하여 함수를 계산합니다. 그리고 아래로 향해서는 그들은 평가를 제공합니다(예를 들어 그래디언트를 통해 또는 아마도 선택을, 예를 들어 짝에서, 이해하나요?).

네트워크 연구의 철학

피드백이 무엇을 만드나요? 간단히 말해서, 편미분 방정식들과 재귀 방정식들, 이것들은 실제로 피드백 메커니즘들이며, 따라서 복잡성과 혼돈의 현상들입니다. 따라서 뇌에서도, 그리고 일반적으로 학습에서도, 피드백 순환은 비슷한 현상들을 만들 것이며, 이것들은 그러면 학습에 자연스러운 것이지, 그것의 결함이 아닙니다. 하지만 어떤 종류의 피드백이 있나요? 그래디언트 디센트의 후방 전파(=최적화에서 경사 하강)에 대한 대안적인 메커니즘들이 평가의 후방 전달에 있습니다. 예를 들어: 단순성에 대한 추구(평가는 오캄의 면도날처럼 얼마나 단순한지에 따른 측정입니다). 또는 혁신에 대한 추구. 또는 가변성과 다양성에 대한(특정 분포). 하지만 피드백의 가장 중요한 특성은 그것이 무엇에 따른 것이 아니라, 그것이 만드는 순환의 크기입니다, 왜냐하면 이것이 시스템적 특성이기 때문입니다. 그리고 여기서 후방 전파의 약점이 두드러지는데, 이는 매우 큰 피드백 순환을 만들며, 이는 큰 시스템에서 매우 인위적입니다 - 그리고 매우 느립니다. 더 합리적이고 따라서 더 일반적인 대안은 짧은 피드백 루프입니다(인공 신경망 외부의 세상에는 후방 전파로 학습하는 학습 시스템이 존재하지 않습니다). 예를 들어 뇌에서는, 신경층들 사이에 많은 역방향 연결들이 있습니다, 반대 방향으로(딥러닝에는 존재하지 않는). 현재 뇌의 이해에서 - 그리고 마찬가지로 딥러닝에서도 - 부족한 것은 경쟁의 아이디어이며, 그리고 인구 내에서의 아이디어 확산입니다(이는 실제로 헵의 규칙에 더 적합합니다). 왜냐하면 각 단계에서, 뇌에서는 여러 가능성들이 경쟁하며, 여러 후속 생각들이, 그리고 하나가 선택됩니다. 즉 어떤 평가에 대한 경쟁이 있으며, 이는 학습을 어떻게 계속할지 선택합니다. 즉: 피드백의 가장 큰 중요성은 정확히 그것이 만드는 경쟁에 있습니다(경제나 민주주의에서처럼, 피드백의 존재 자체가 중요하며, 그것이 이상적이지 않더라도). 하지만 너무 큰 피드백 순환에서는 이 모든 것이 손실되거나 비효율적이며, 작은 순환들에서의 근접한 경쟁과 비교됩니다. 구글의 페이지랭크 알고리즘에서도 허브들이 있는데, 이들은 평가하며, 이것이 실제로 그것의 본질입니다 - 네트워크의 일부 정점들이 다른 것들을 평가하도록 그래프를 분석하는 것입니다(그리고 차례로 그들에 의해 평가받습니다). 이 모든 것이 신경망과 매우 비슷하며, 그래서 사이트들 사이에 순위에 대한 경쟁이 생기고, 일반적으로 네트워크에서 품질 경쟁이 생깁니다. 그리고 과학에서는? 각 논문은 다른 것들을 인용하며, 즉 이것이 네트워크에서의 평가이며, 여기서는 층들이 없고 모두가 모두와 연결되어 있습니다. 그리고 층들은 출판 시간에 따라 만들어집니다(각 논문은 그 이전에 출판된 것들을 평가합니다). 즉 우리는 여기서 그들 이전의 것들을 평가하는 층들을 가지고 있으며, 그들 이후의 것들에 의해 평가받으며, 그래서 경쟁이 생기며, 매우 단순한 네트워크 메커니즘을 통해서. 이 두 경우에서 큰 외부 피드백 순환이 평가와 경쟁을 만들기 위해 필요하지 않으며, 대신 평가는 그들 자신으로부터 생깁니다. 우리는 반드시 진화에서처럼 강한 외부 평가가 경쟁을 만들기 위해 필요한 것은 아니며, 이것이 비지도 학습의 열쇠이며, 이는 뇌에서 지배적인 학습이며, 딥러닝의 큰 단점입니다, 이는 엄청난 양의 예제들이 필요합니다(참고로, 진화에서도 주요 경쟁은 짝을 위한 것입니다, 즉 종 내의 작은, 내부적인 피드백 순환들에 대한 것이며, 큰 멸종에 대한 것이 아닙니다). 그래서 우리는 명확한 외부 평가가 없는 네트워크들에서도, 예를 들어 페이스북, 주식 시장, 그리고 데이트, 그리고 논문들에서, 여전히 격렬한 경쟁이 있을 수 있다는 것을 봅니다. 그러한 네트워크들에서 당신은 숫자를 받습니다, 가격이나 좋아요나 h-index나 페이지랭크와 구글에서의 순위같은, 그리고 당신에 대한 지도. 이 숫자는 당신에게 어떤 지도도 주지 않으며, 단지 평가만을 주며, 그리고 당신은 그것을 해석하고 당신이 어느 방향으로 변해야 하는지를 그것으로부터 이해해야 합니다. 그리고 이는 딥러닝에서 당신을 위로부터 지도하는 그래디언트와는 대조적입니다, 이는 당신에게 주어진 방향입니다. 그리고 아마도 다항식 시간이 측정 가능한 지도가 있는 것이라고 주장할 수 있으며, 반면에 NP는 지도가 없는 문제들의 클래스이며, 미분 불가능하며, 대신에 혼돈적이고 비지역적입니다. 따라서 우리는 NP로부터 평가가 학습에 충분하지 않다는 것을 배워야 합니다. 오직 지도만이. 왜냐하면 NP는 정확히 이 거대한 피드백 순환이기 때문입니다, 외부로부터, 이는 우리를 해결책으로 이끌 내부 학습에 아무것도 주지 않는 것으로 판명됩니다. 그러한 평가로부터 지도를 도출할 수 없습니다. 다항식 시간이 교대로 라마르키안한 것인가, 즉 지역적 최적화로 분해 가능한가, 즉 그것이 구축+지도인가? 뇌에서는 아직 학습이 어떻게 작동하는지 모르지만, 진화에서는 알고 있으며, 우리는 거기서도 핵심 특성이 있다는 것을 봅니다: 독립적인 평가 함수, 이것이 두 성이 있는 이유입니다. 즉 강한 외부 평가인 삶과 죽음이 있더라도, 학습이 작동하기 위해서는 시스템 내에서도 독립적인 내부 평가가 필요하며, 성의. 큰 피드백 순환은 반드시 더 작고 더 근접한 피드백 순환들로 분해되어야 하며, 이는 단순히 그것의 미분이 아닙니다, 문자 그대로. 문화적/정치적/주식회사/경제 네트워크에서도 독립적인 평가 함수들이 있습니다. 즉: 그것이 그들의 유일한 기능인 부분들이 있습니다. 그리고 그러면 그것에 대한 경쟁이 있으며, 즉 대안들 사이에 중복성과 여분과 다양성과 차이와 비교가 있습니다(그렇지 않으면 왜 모든 학습 시스템들에서 이 심리적 중복성이 존재하나요? 왜 뇌에 그렇게 많은 뉴런들이 있고 유전체에 유전자들이 있고 종에 유기체들이 있고 - 그리고 국가에 사람들이 있나요). 그렇다면, 내부 평가는 어떻게 작동하나요? 그것은 어떻게 스스로 평가받나요? 음, 시스템 내에 단순히 독립적인 평가 단위들이 있으며, 이는 독립적으로 지도하며, 단순히 큰 피드백의 전체 순환이 아닙니다. 대체로, 시스템에 대한 일반적인 피드백은 드물고 비싸며, 따라서 2차 평가 함수들에 의존합니다. 그리고 단순히 평가 함수들도 학습합니다. 그리고 NP에서는 무슨 일이 일어나나요? 2차 평가들이 실패합니다. 실제로, 시스템의 학습을 만드는 것으로서 시스템 외부로부터의 강화 학습의 전체 아이디어는(예를 들어 행동주의) 개념적 오류이며, 이는 학습의 단순화된 철학적 그림에서 비롯됩니다. 우리는 결코 최종 피드백을 가지지 않으며, 모든 계산은 아직 끝나지 않았습니다.

신경망의 철학

독립적인 평가들이 시스템 내에서 어떻게 더 도움이 되나요, 시스템 외부에서 오는 외부 평가와는 대조적으로, 이는 그것을 가르치기 위해 옵니다? 왜냐하면 당신은 또한 이전에 배운 것을 그것을 지우는 새로운 학습으로부터 보호해야 하기 때문입니다. 그리고 내부 평가는 그것이 이끈 학습을 모든 것을 씻어내는 외부 지도들로부터 보호합니다(후방 전파에서처럼). 그래서 새로운 피드백이 단지 새로운 것에만 도달하도록 할 수 있으며, 그것의 방향으로 채널링되며, 모든 오래된 것의 방향이 아니라 - 그리고 추가하며 - 지우지 않습니다. 기억을 보존하게 하는 것은 정확히 후방으로의 학습이 없다는 것입니다. 예를 들어 그것이 라마르키안이 아니라는 것, 대신에 DNA의 학습, 즉 디지털이며 단순히 아날로그 연속적이지 않다는 것입니다(이는 모두 미분과 최적화에서의 수렴으로 마모됩니다). 그리고 이것은 또한 조합을 가능하게 합니다. 평가가 독립적일 때, 학습은 한 번에 한 층만 뒤로 갑니다. 거기서 마법이 일어나며, 예를 들어 복잡성의, 단순히 또 다른 층을 통해서. 진화에서도 - 그것은 항상 한 세대입니다. 후방 전파는 악의 근원이며, 이는 딥러닝 분야 전체를 무차별 대입으로, 블랙박스로 만들었고 따라서 과학이 아닌 공학으로 만들었습니다. 모든 문제적인 현상들이 그것에서 나옵니다. 그리고 그렇게 학습하는 자연 시스템은 존재하지 않습니다. 치명적 망각(새로운 종류의 예제들을 주면 딥 네트워크가 배운 것을 잊어버리는 현상)과 딥러닝에서 학습 블록들을 잘 연결하는 능력의 부족은 여기서 처음에 제시된 것과 같은 모델을 선택했다면 피할 수 있었을 것입니다, 교사와 구축의. 치명적 망각은 실제로 기억이 전혀 없기 때문입니다, 단지 행동이나 학습만 있습니다. 따라서 학습에 저항하는 기억이 필요합니다, 즉: 네트워크가 유용한 것을 배웠다고 결정하는 경우들, 또는 특정 개념을, 그리고 그것을 계속되는 변화와 별도로 저장합니다(또는 그것에 대한 변화 능력을 매우 늦춥니다). 따라서 당신이 한 것을 강화하는 방법이 필요하며 단순히 그것을 변경하지 않는 것이 아니라, 각 파라미터에 대한 확신 파라미터가 있어야 하며, 이는 성공할 때마다 강화됩니다(즉, 파라미터 지도에 대한 변화 미분이 거의 없을 때, 이것도 가치 있는 정보이며, 현재는 거의 손실되고 있지만, 경사 하강의 최적화 알고리즘에서 부분적으로 영향을 미칩니다, 예를 들어 모멘텀에서). 기억한다는 것은 학습하지 않는 능력입니다. 지속될 무언가를 배우기 위해서는 학습하지 않는 능력이 필요하며, 모든 새로운 정보에 의해 영향을 받지 않는 것이, 지도의 바람개비처럼. 후방 전파 메커니즘의 모든 변화는 딥러닝의 다른 변화들보다 훨씬 더 근본적입니다, 왜냐하면 이것이 방법론이기 때문입니다, 학습 메커니즘. 그리고 거기서 그것을 수정할 수 있습니다. 그리고 철학의 역할은 이 개념적 심층 분석을 분석하는 것입니다(현재는 거의 하지 않고 있으며, 따라서 철학자들에게 아무도 돈을 지불하지 않습니다, 그들이 제공할 수 있는 엄청난 가치에도 불구하고).

딥러닝의 철학: 요약

따라서, 필요한 것은 아래로 내려가는 모든 것(평가들)이 하나의 깊은 평가 네트워크로 연결되어 있는 모델이며, 각 층은 일반적인 딥 네트워크에서 일어나는 것에 대한 출력과 입력을 가지고 있습니다, 즉 계산하는 네트워크의 병렬 층에. 계산 네트워크에서 평가 네트워크로의 입력은 계산 네트워크의 층의 출력이며, 이는 평가 네트워크로 전달됩니다 - 평가를 위해. 그리고 평가 네트워크에서 계산 네트워크로의 출력은 그것의 평가 출력입니다 - 이는 지도입니다. 네, 이것은 양방향으로 완전히 대칭적입니다. 그리고 따라서 훨씬 더 일반적입니다. 위로 올라가는 하나의 네트워크와 그것에 대해 완전히 병렬로 아래로 내려가는 네트워크. 그리고 두 네트워크가 정확히 같은 구조를 가지는 특별한 경우에는, 실제로 각 뉴런은 이중 가중치를 가집니다, 위아래로, 그들의 업데이트를 위해. 즉 이것을 하나의 네트워크로 생각할 수 있습니다(이중 작용), 하지만 아마도 평가 네트워크에 구조적 독립성을 주는 것이 더 나을 것입니다, 즉 서로를 제어하는 두 네트워크. 그리고 이 모든 것이 NP에 대해 무엇을 의미합니까? 여기서의 학습 정의는 평가자와 평가받는 자들의 층들로의 분해로서입니다, 교사와 학생들. 그리고 질문은 그러한 분해가 존재하는지 아닌지입니다, 문제에 대해, 모든 다항식 알고리즘이 그러한 분해일 때. 즉, 이것은 컴퓨터 과학의 철학에서 우리가 본 것과는 다른 학습의 정의이며, 아마도 이러한 과학들의 기본 문제를 다루는 데 더 적합할 수 있습니다. 그리고 나는, 이미 내 인생에서 이러한 생각들을 가져와서 형식적으로 만들 수 있는 단계를 지났습니다 - 하지만 아마도 당신은 할 수 있을 것입니다.

문화와 문학


text:
강산의빛바램페르미패러독스에관한에세이텅 빈하늘의문제 - 신의존재와는반대되는개념 - 는이성적인모든사람에게공포를불러일으키며, "페르미패러독스" [세계위키백과에훌륭하고불안을자아내는글이있음]라는탁월한정식화를얻었습니다. 표면적으로는확률론적-과학적문제이지만, 그본질에는특별한규모의철학적문제가있습니다. 이는철학이물리학과생물학의요람으로서의그 근원으로돌아가도록강요하며 - 인간에대한특별히멀리떨어진관점을만들어냅니다 (비인간적인경계에가까운). 만약우리의우주에대한관점이완전히비합리적이라면 (통계적으로!), 하늘에서 - 우주의관점에서우리는어떻게보일까요?

저자: 우주에서가장어려운문제우주적규모에서의주관성대 객관성 (출처)

첫번째알고리즘시대페르미패러독스에서우리는무엇을배울수 있을까요? 패러독스가더 클수록, 즉우주에생명이존재할가능성이더 높을수록 (이것이최근몇 년간연구가일관되게나아가는방향입니다) - 우리의상황은당연히더 나빠지고패러독스는더 두려워집니다. 10억분의 1의큰 필터가필요하다면천분의 1의필터보다더 나쁜상황이며, 우리는우리의과거에서그런설득력있는필터하나조차발견하지못하고있습니다 (한번만일어났고 - 한번에일어난그런것). 우리가확신하는기본적인필터링사실은하나뿐입니다: 진화는엄-청-난시간이걸리며, 운이매우좋았던경우가적지않았습니다.

우리의발전이 4억년이아닌 4000억년의평균적인진화를반영한다고가정한다면, 우주의나이에비해우리는희귀한존재입니다. 이는특정사건에서찾을수 있는일회성필터가아니라, 오랜시간에걸쳐퍼진필터입니다. 인간의직관적편향과는달리, 백만분의 1의사건이일어날확률은 10분의 1의사건이 6번일어날확률이나 2분의 1의사건이 20번일어날확률과같습니다 (이것이필터라면, 그것은우리의과거처럼보일것입니다 - 많은합리적인운의조합). 이차이는현대종교적전환에서 "기적" 패러다임에서 "섭리" 패러다임으로의전환과유사합니다: 하나의비현실적인신의개입사건이시간에걸쳐수많은작은개입으로퍼집니다.

진화가수십억년이걸린이유는무엇일까요? 충분히기본적인 (즉, 특정행성환경에의존하지않는) 단하나의답만있습니다 - 진화알고리즘이매우원시적이라는것입니다. 두가지주요한문제점이있습니다:

* 느리고비효율적입니다.

* 극적인외부간섭이없는한 지역최적화와정체에빠지기쉽고, 일련의멸종덕분에만진화가여기까지올 수있었습니다 (따라서지구온난화와그로인한대멸종은생명의복잡성과진화에기여할긍정적인과정입니다 - 공룡의멸종이포유류의부상에기여한것처럼).

이두 가지중 결정적인문제점은수렴입니다. 우리는메커니즘의느림에도불구하고진화에서놀랍도록정확한최적화가이루어진수많은예를봅니다. 반면에, 진화적최적화과정이매우긴 기간동안지역최적화에갇힌수많은예도마찬가지로존재합니다 - 현재와과거모두에서. 가장큰 정체는복잡성수준의상승에서나타납니다 (이는진화에서발견할수 있는유일한방향이며, 알고리즘으로서복잡성창출에어려움을겪기때문에오히려그것의본질적인특성입니다 - 복잡성은그것의누적된단방향활동의증거입니다).

두번째알고리즘시대사실, 지금까지진화에서가장중요한사건은다른종류의발전알고리즘 - 진화적이지않은 - 의창조였습니다. 뇌의출현이반드시발전알고리즘의창조는아니었습니다. 개체의발전이반드시종의발전을의미하지는않기때문입니다. 발전이세대에서세대로전달되었을때만 - 진화와경쟁하는알고리즘이만들어졌고, 이시점부터 (뇌의출현이아닌) 새로운알고리즘이훨씬더 빠른새로운복잡성을만들어냈습니다. 인간의언어는새로운유전코드였습니다 - 기억 - 세대간정보전달을가능하게했지만, 이기억은유전적기억 (본질적으로언어적기억)과본질적으로다르지않았고, 그존재자체가반드시진화적알고리즘과다른종류의알고리즘을만들어내지는않았을것입니다.

따라서우리는물어야합니다: 정말로행성에새로운알고리즘이처음으로나타난것일까요, 아니면단순히훨씬더 빠르고유연한하드웨어 (고정된게놈대신 - 언어정보가빠르게변화)일뿐이고, 발전알고리즘자체는여전히진화적이며, 인간의발전은여전히복제와무작위돌연변이에의해결정되는것일까요? 예를들어, (현대성이주장하듯이) 예술이본질적으로진화적알고리즘이라고, 즉방향성이없고변화하는유행, 모방, 변형과관습의파괴 (돌연변이)와같은원시적메커니즘에서생겨난다고주장할수 있을까요? 아마도이것이모든문화적, 심지어과학적발전 (패러다임의파괴)의유효한설명일까요?

그러나새로운알고리즘은이전것과완전히다른특성을가지고있습니다. 진화가최적화알고리즘이고따라서자연스럽게지역최적화에갇힌다면, 새로운알고리즘은학습알고리즘이며, 따라서그것의출현이후지속적인변화를일으켰고정체는거의없었습니다 (중세는역사에서예외이지규칙이아닙니다) - 그래서우리행성은지속적이고가속화되는변화상태로던져졌습니다 (이는진화에서는해당되지않았습니다. 진화에는눈에띄는본질적인가속이없었습니다). 학습을진화와구별하는것은무엇일까요? 학습알고리즘 - 예를들어문화적또는과학적발전 - 이최적화알고리즘과본질적으로어떻게다른가요?

본질적인차이는모방과복제부분에있지않습니다. 속도와효율성이다르더라도 - 여전히기본적으로같은복사메커니즘입니다. 차이는오히려돌연변이메커니즘에있습니다 - 이것이창의성메커니즘으로대체되었습니다. 보존측면이결국같은보존이라하더라도 - 변화의측면은더 이상무작위적이지않으며, 보존과복사메커니즘의오류에서비롯되는부산물이아닙니다. 이는보존과는완전히독립적인두 번째메커니즘으로, 선택한방향으로적극적으로변화를만들어냅니다. 언어 (그리고문학)의창의성은교정이나전달오류 (전화게임)에서비롯되지않습니다. 여기에는더 빠른무작위방향으로의시행착오만을기반으로하지않는메커니즘이있습니다 - 특정한, 선택된방향으로의변화가있습니다. 이로부터과정의훨씬더 높은효율성과가속화가비롯됩니다.

두번째시대의철학이를이해하는철학은학습이라는개념을인간이해의중심에둘 것이며 - 인간의우월함과독특함을모방과복사와결합하여학습을만들어내는창의적능력에서찾을것입니다. 우리주변의동물들과달리인간은빠르게지루해합니다. 우리에게는창의성에대한자연스러운본능과변화에대한충동이있습니다. 보수성은혁신보다더 자연스럽지않습니다 - 사회의보수적요소들의교리와는반대로말입니다. 때로는우리가과도한보수성과정체에기울어진시스템 (현대시대의종교들) 또는과도한혁신과분산에기울어진시스템 (현대시대의예술)을만들기도하고, 때로는잘 작동하는학습시스템 (현대과학, 현대문학)을만들기도합니다. 하지만보존충동의오류가아닌독립적인충동으로서의혁신충동은우리에게본질적입니다.

따라서, 많은이들이주장하는보수성과혁신사이의진화적균형 - 돌연변이속도의일종의중용과 "황금" 비율 - 은거짓되고해로운개념입니다. 이는진화처럼하나의매개변수 (원본에대한보존의충실도)만있는같은메커니즘이아니라, 학습을만드는두 개의분리된메커니즘이기때문입니다: 즉두 개의벡터입니다. 따라서균형을맞춰야할 매개변수가아니라, 서로를상쇄하거나 "균형"을맞추지않고최대한의힘으로작동해야하는두 개의독립적인벡터입니다. 과거의성과를보존하고전달하려는엄청난충동과 - 새로운성과를이루려는엄청난충동을모두가진시스템을추구해야합니다. 예를들어, 전통을열정적으로보존하면서도열정적으로혁신하는문화. 고전에정통하고과거에대한경외심이불타오르는창작자 - 하지만혁신의충동도불타오릅니다. 아이에게문화를깊이가르치는 - 그리고깊은혁신의기쁨도가르치는부모.

균형이라는개념의결과는두 개의약한벡터입니다: 매우적은문화적보존, 그리고매우적은문화적혁신. 현대과학이잘 작동하는것은보수성과혁신사이의 "신성한균형"이보이지않는손에의해달성되었기때문이아니라, 두요소 - 축적된지식의전수와새로운지식의추구 - 가강력하게작동하기때문입니다. 만약현대문학이문학적전통을점점잊어가고있다면, 이는보수성과혁신사이의균형이깨졌기때문에해를입는것이아니라 - 그것의높이를만들어준두 다리중 하나를잃고있기때문입니다. 따라서과도한혁신은혁신을억제함으로써다루어져야하는것이아니라 - 보수성을강화하고전통을육성함으로써다루어져야합니다. 그리고과도한보수성은전통을파괴함으로써다루어져야하는것이아니라 - 혁신을육성함으로써다루어져야합니다. 진화에서는제로섬게임이지만 - 학습에서는그렇지않습니다. 여기서는모방과혁신이서로를보완합니다. 위대한작품들은강력한혁신과보존충동들의거대한충돌에서탄생했지, 그들의혁신성과보수성의용량을잘 조절하고균형잡힌실험에서나온것이아닙니다 (그결과는깊이와내적힘이부족합니다).

제2시대의윤리학습알고리즘이우리라는것 - 그리고학습이인간의조건이라는것 - 을이해하는것은우리시대의가장큰 철학적공백에대한답을제공할수 있습니다. 과거의철학이죽음과삶의의미에대한질문들을다뤘다면 - 우리가무엇을위해살아야하고무엇을위해죽어야하는지 - 이러한질문들의날카로움은보존과혁신의충동들 - 학습의충동들 - 이진화적이고동물적인명백한최적화충동들인즐거움과고통으로대체되면서무뎌졌습니다. 하지만즐거움과고통의철학에서한 가지기본적인질문이답 없이남아있습니다: 우리는왜 아이들을세상에데려와야하는가? 실제로, 그영향으로태어난세계관과인간관은이에대한어떤설득력있는답도제공하지못하며, 출산에반대하는철학적실험들도있습니다.

우리가진화알고리즘때문에아이들을가져야한다는 "생물학주의적" 주장은설득력이없으며, 설명과이유를혼동합니다. 물론, 우리모두는이 알고리즘의일부로태어났고, 이는과거에대한유효한설명이지만, 왜이것이현재우리행동의유효한이유이자정당화가되어야할까요? 진화알고리즘은우리가아닙니다 - 그리고우리는인간으로서그것과상당히거리가있습니다 (그래서우리가그것을발견하는데 수천년이걸렸습니다 - 그것은우리에게자연스럽지않습니다). 우리는다른이야기에서왔습니다: 학습알고리즘에서. 그리고바로이 알고리즘에아이들을세상에데려오는이유가있습니다. 학습이라는아이디어에깊은동일시를하지않는사람은 - 실제로아이들을가져야할 유효한이유가전혀없습니다. 이것은분명히즐거움을최대화하지않습니다. 그리고동물들과달리, 이유없이아이들을데려오는것은인간에게충분하지않습니다 - 왜냐하면아이들이이유없이태어날때 그것은무엇보다도그들의교육에서 (또는그러한교육의부재에서) 드러나기때문입니다.

오늘날의아이들세대가실제로그렇게보입니다: 이유없이세상에태어난아이들. 우리안에있는학습알고리즘, 그것의강력한보존과혁신충동들과의깊은동일시, 그리고진화알고리즘과의비동일시만이아이들의교육을정당화할수 있습니다 - 그리고데려와서가르칠가치가있는아이들세대를만들수 있습니다. 마찬가지로, 우리의두 가지기본적인알고리즘적충동들 - 모방학습과창의적학습 - 과의깊은동일시만이위대한문화를만들수 있습니다. 우리는자기보존의충동에서아이들을만드는것이아닙니다 - 그리고우리자신의복사본을만들려고하지않습니다 (무작위로변형되는) - 오히려우리안에있는깊은학습과창조의충동들로부터우리아이들을가르치고만들려고의도적으로새롭고개선된모델들을만들려고합니다.

사람이 (그리고그의뇌가) 일생동안겪는혁신에서보수로의변화 - 이것이우리의죽음의이유이고, 따라서우리아이들의필요성의이유입니다. 죽음은우리의유산을창조적상태에서보수적상태로전환시키며, 이로부터사람의죽음순간부터그의유산에대한우리의큰 변화가일어납니다. 예를들어, 죽은예술가나창작자는돌이킬수 없는방식으로창조성의영역에서보존과전통의영역으로이전되며, 이렇게화가의작품가치는그의죽음으로급등합니다 ("죽음이가격에 0을더합니다"). 이로부터우리가살아있을때 반드시동일시하지않았던사람의유산에대해느끼는큰 관용 - 그의죽음의순간에, 또는우리가과거문화들의유산에감정적으로연결될수 있는능력 (현재의문화를평가하기어려울때가많은반면)이나옵니다.

누군가또는무언가가죽을때 - 그것에연결될새로운경로가우리앞에열리지만, 그것이태어날때도마찬가지입니다 - 그리고아이에게서나올혁신성에연결될수 있는우리의능력만이 (그리고더 이상우리에게서나오지않을) 그의탄생과비교적비독단적이지만문화적인교육을정당화할것입니다 (최적화괴물로서가아닌 - 오늘날의아이들처럼). 우리는우리의유전자가아닙니다 - 왜냐하면우리는학습알고리즘이지유전알고리즘이아니기때문입니다. 우리는최적화를위해세상에오지않았습니다. 창의성은무작위적방향을넘어서는메타고려사항을적용하는능력입니다 - 그리고지역최대값의장벽을넘어 - 덜최적화되었지만, 우리안에있는혁신의동기덕분에학습적으로더 진보된상태로나아가는것입니다.

제3의알고리즘시대이 모든것은우리가인간의세계를고려할때 사실입니다. 하지만페르미패러독스는미래나공간에서우리를기다리고있는다른세계들을고려하도록요구합니다 (사실, 이러한깊은미니연구의패러독스는오늘날우리가이러한세계들에대해이용할수 있는가장깊은생각입니다). 그렇다면 - 왜우리가학습알고리즘이마지막이자가장정교한알고리즘이며, 그것이진화보다효율적인것처럼그보다더 효율적인알고리즘이없다고가정해야할까요?

만약그러한알고리즘이실제로존재하거나, 우주에화학-전기적인것들 (모든생물학과그것의두 알고리즘: 진화와학습이기반을두고있는)을넘어서는계산능력이있다면, 제3의알고리즘시대가있을수 있습니다. 지금까지, 페르미패러독스는우리가제2의알고리즘시대, 학습의시대에있는유일한존재이며, 제1의알고리즘시대인진화가비교적쉽게제2의시대로바뀔수 있다고생각하는것에서비롯됩니다. 하지만만약제2의시대가자연적으로짧은수명을가지고있고, 비교적빠르게제3의시대로바뀐다면, 그래서우리가제2의, 확장하는시대에서기대할수 있는거대한은하계문명들을보지못하는것이라면어떨까요? 여기서는프로세서의양의기하급수적성장이종의학습능력발전과동일합니다.

만약모든알고리즘이발전과정을만든다면, 우리는은하계에물리적으로퍼지는알고리즘의계산적힘에대한유효한물리적한계를알고있습니다 - 빛의속도. 자연스럽게, 우리는문화가공간으로확장되는것을자연스러운방향으로인식합니다, 왜냐하면우리가지구에서지금까지그렇게행동해왔기때문입니다. 하지만만약계산적발전의자연스러운방향이반대라면어떨까요? 우리와우주를수십개의크기순서가분리하는것처럼, 우리와플랑크길이와시간을수십개의크기순서가분리합니다. 그렇다면, 왜큰 것을작은것보다선호해야할까요?

우리가계산에대해알고있는모든것에서, 문화가오히려미세공간, 나노미터리와양자계산그리고그 너머로 - 끈까지확장되는것에결정적인계산적이점이있습니다. 아마도먼지알갱이안에서은하계공간에문화를펼치는것보다더 많은계산력을기술적으로만들수 있을것입니다: 왜냐하면집중, 소형화, 미세함이계산속도에서핵심이며, 이들과함께양자역학이론과같은상상할수 없는계산력을가진물리학이론들이표현되기때문입니다 (그리고끈 컴퓨터의힘은무엇일까요?). 페르미패러독스는첫 번째알고리즘인진화적알고리즘이두 번째알고리즘인학습적알고리즘으로수렴하는효과에의존하지만, 만약그러한효과가존재하지않거나 - 또는단기간이라면 - 그리고문명들이빠르게세 번째알고리즘으로수렴하거나그것으로가는우회경로가있다면어떨까요?

마지막으로, 만약자연법칙이무한하지않고, 우주의모든것을설명하는통합된물리이론이존재한다고가정한다면 - 아마도하나의공식까지도 - 모든발달된문명은어느시점에서그것에도달할것입니다. 이시점에서는수학만이무한하며, 우주어디에도숨겨진본질적인발견은없습니다. 결국모든기술들이매핑될것이고, 물리적기반을가진모든아이디어가소진될것이며, 오직문화적이고수학적인계산만이계속될것입니다 (수학이본질적인내용면에서무한하다는가정하에 - 이는잘못될수 있고문화적발전만남길수 있는가정입니다). 이단계에도달한문명은우주전체에퍼져나가고그것을탐험할이유가전혀없습니다 - 그들은그것을소진했습니다.

다음큰 필터페르미패러독스는인류의안녕을걱정하고 - 진정으로마지막이고최종적인하나의대재앙을걱정할가장설득력있는이유입니다. 만약패러독스의기본논리가유효하다면 - 아마도우리는이런저런방식으로운명이정해져있습니다. 하지만우리는패러독스의함의를평가하기위해우리앞에 "열려있는" 가능한파멸의방식들이무엇인지고려해야합니다. 만약우리뒤에큰 필터가없다면: 우리앞에있을수 있는큰 필터는무엇일까요? 우리의파멸을위해생각할수 있는거의모든가능한방식은패러독스의기본조건을충족하지못할것입니다: 몇개의크기순서중 하나의필터. 아마도우주의대부분의문명들이핵전쟁이나유전자조작된바이러스로자신들을파괴할수 있지만, 그러한자기파괴에서백 개나천 개중 하나의문명만이살아남는다고믿기는어렵습니다. 지구온난화에대해서는말할것도없습니다 - 패러독스의힘과비교하면농담수준입니다. 우리가생각할수 있는모든가능성들중에서, 패러독스의요구사항을충족하는것은단 세가지뿐입니다:

* 과학이모든합리적인발전과정에서조만간도달할물리학실험 - 물리이론의본질상완전히파괴적이고완전히예측할수 없는결과를가진 (즉, 어떤문명도그것들을예측할수 없습니다). 이는인공 "블랙홀" 생성에대한언론의공포나, 양자계산에대한우주의어떤금기, 또는시공간을찢는다른어떤행동과비슷합니다 - 물리학적으로매우독특한상황에서만일어날수 있는무언가로, 인공적으로만만들어질수 있습니다. 이것은거의 "물리적인" 파멸의이유입니다. 자연법칙자체안에우리를기다리고있는일종의함정입니다. 이는알려진모든자연법칙과완전히다른행동입니다 - 하지만이 가능성의본질상그것은그러한법칙입니다.

* 우리가추측할수 없는이유로 (종교적이유?) 다른지적종족에의한우리의파멸. 이것은거의생물학적인우리파멸의이유로, 진화와게임이론의본질에서나와야합니다 (경쟁, 적대감, 제로섬게임) - 그리고포식자-먹이 (또는파괴자-파괴된자) 사슬에서우리위에있는이전종족의존재사실. 이는우주에서알려지고자연스러운과정인진화로부터그 논리를끌어오는이유이지만, 우리에게는낯섭니다 - 우리는진화가아닌학습에의해움직이며, 우리보다훨씬열등한다른종족들을파괴하지않을것입니다. 나치의학살처럼 - 이는실용적이지않은파괴가될 것입니다 - 이데올로기적-진화적-인종적인것입니다. 오직이데올로기를통해서만우리가지금까지파괴되지않은이유를설명할수 있으며 - 또한공포를자아내는빈 하늘을목격할수 있었습니다.

* 가장그럴듯하고 - 가장가까운이유: 인공지능의본질과관련된무언가. 이는거의수학적인파멸의이유입니다, 왜냐하면그것은가능한모든인공지능에서나오기때문입니다. 이이유가가장그럴듯한것은바로그것이가장가깝기때문입니다: 파멸은우리가은하계에퍼지거나, 심지어그 안에서다른이들이식별할수 있는의미있는신호를만들기전에일어나야합니다.

페르미패러독스는매우높은순서의불확실성을다룹니다: 우리가모른다는것을모르는무언가 - 하지만만약우리가보이는가장큰 불확실성이어디에있는지추측할수 있다면 (그래서대재앙이숨어있을가능성이가장높은) - 그것은 c항입니다. 패러독스의크기순서에있는글로벌도전앞에서, 지금까지 "괜찮았기" 때문에 "괜찮을것"이라는보수적인접근은의미와타당성을잃습니다, 왜냐하면이는본질적으로상상할수 없는혁신의문제이기때문입니다. 유대인대학살처럼, 페르미패러독스는지금까지상상할수 없었던것을상상할수 있게만들며, 이는무슨일이일어나고있는지깨닫기도전에, 그리고이미너무늦었을때 일어납니다. 이는본질과정의상선례가없는문제입니다: 상상할수 있는가장선례없는것입니다. 따라서그것은지식의경계 (그리고아마도그 너머)를긁고있으며, 가능한가장세속적인의미에서종말의질문을구현하고있으며 (사실 - 그것은신의존재와섭리에대한강력한증거로여겨질수 있었습니다), 인간, 우주, 자연에대한불신의정점을나타냅니다 - 생물학, 물리학, 그리고아마도수학에서도.

이것이매우어려운문제이기때문에 - 오늘날오직철학만이그것과씨름하려시도할수 있으며, 패러독스의함의는철학에전례없는중요성을부여합니다. 고전적인회의주의전통의철학적문제들이그것옆에서는어린이놀이처럼보이는, 패러독스만큼불안을일으키는철학적문제는지금까지없었으며, 그것은철학이시작된말을극단적인패러독스적방식으로가져옵니다: 나는내가모른다는것을안다. 페르미패러독스는오늘날철학이직면한가장긴급하고, 어렵고, 깊은철학적질문입니다 - 그리고우리의지적의제에이보다더 중요한 (그리고충격적인) 것은없습니다. 그것은인간사고의한계까지 (그리고분명히 - 그너머로) 멀리나아가는광기어린가능성들을우리앞에열어주며, 우리가이 문제에서매 걸음마다빠지는개념적심연들을뛰어넘으려시도하도록강요합니다. 이는현재인간의지평선너머에있습니다 (그리고특히공포스러운것은 - 만약우리가파괴된다면, 그래야만한다는것입니다!). 나, 네타냐후인은, 그것이끊임없이내 마음을괴롭히지만, 그것을해독하는데성공하지못했습니다. 그것은나보다깊습니다.

미래의철학

source: degeneration-of-nation

title: 페르미 패러독스에 관한 에세이 - 강산의 빛바램

source_format: html

domain: philosophy

html_raw:
<!DOCTYPE html><meta charset="utf-8"><meta name="viewport" content="width=device-width, initial-scale=1.0"><title>페르미 패러독스에 관한 에세이 - 강산의 빛바램</title><link rel="icon" type="image/png" href="../favicon-192x192.png" sizes="192x192"><link rel="apple-touch-icon" sizes="180x180" href="../apple-touch-icon-180x180.png"><link rel="canonical" href="https://degeneration-of-nation.org/ko/philosophy-of-learning81" /><meta property="og:image" content="https://degeneration-of-nation.org/img/universelog.jpg" /><link rel="license" href="https://creativecommons.org/licenses/by/4.0/"><link rel="stylesheet" href="../styles.css"><link rel="stylesheet" href="../column.css"><link rel="stylesheet" href="../article.css">
강산의 빛바램

페르미 패러독스에 관한 에세이

텅 빈 하늘의 문제 - 신의 존재와는 반대되는 개념 - 는 이성적인 모든 사람에게 공포를 불러일으키며, "페르미 패러독스" [세계 위키백과에 훌륭하고 불안을 자아내는 글이 있음]라는 탁월한 정식화를 얻었습니다. 표면적으로는 확률론적-과학적 문제이지만, 그 본질에는 특별한 규모의 철학적 문제가 있습니다. 이는 철학이 물리학과 생물학의 요람으로서의 그 근원으로 돌아가도록 강요하며 - 인간에 대한 특별히 멀리 떨어진 관점을 만들어냅니다 (비인간적인 경계에 가까운). 만약 우리의 우주에 대한 관점이 완전히 비합리적이라면 (통계적으로!), 하늘에서 - 우주의 관점에서 우리는 어떻게 보일까요?

저자: 우주에서 가장 어려운 문제

우주적 규모에서의 주관성 대 객관성 (출처)

첫 번째 알고리즘 시대

페르미 패러독스에서 우리는 무엇을 배울 수 있을까요? 패러독스가 더 클수록, 즉 우주에 생명이 존재할 가능성이 더 높을수록 (이것이 최근 몇 년간 연구가 일관되게 나아가는 방향입니다) - 우리의 상황은 당연히 더 나빠지고 패러독스는 더 두려워집니다. 10억분의 1의 큰 필터가 필요하다면 천분의 1의 필터보다 더 나쁜 상황이며, 우리는 우리의 과거에서 그런 설득력 있는 필터 하나조차 발견하지 못하고 있습니다 (한 번만 일어났고 - 한 번에 일어난 그런 것). 우리가 확신하는 기본적인 필터링 사실은 하나뿐입니다: 진화는 엄-청-난 시간이 걸리며, 운이 매우 좋았던 경우가 적지 않았습니다.

우리의 발전이 4억년이 아닌 4000억년의 평균적인 진화를 반영한다고 가정한다면, 우주의 나이에 비해 우리는 희귀한 존재입니다. 이는 특정 사건에서 찾을 수 있는 일회성 필터가 아니라, 오랜 시간에 걸쳐 퍼진 필터입니다. 인간의 직관적 편향과는 달리, 백만분의 1의 사건이 일어날 확률은 10분의 1의 사건이 6번 일어날 확률이나 2분의 1의 사건이 20번 일어날 확률과 같습니다 (이것이 필터라면, 그것은 우리의 과거처럼 보일 것입니다 - 많은 합리적인 운의 조합). 이 차이는 현대 종교적 전환에서 "기적" 패러다임에서 "섭리" 패러다임으로의 전환과 유사합니다: 하나의 비현실적인 신의 개입 사건이 시간에 걸쳐 수많은 작은 개입으로 퍼집니다.

진화가 수십억 년이 걸린 이유는 무엇일까요? 충분히 기본적인 (즉, 특정 행성 환경에 의존하지 않는) 단 하나의 답만 있습니다 - 진화 알고리즘이 매우 원시적이라는 것입니다. 두 가지 주요한 문제점이 있습니다:

느리고 비효율적입니다.

극적인 외부 간섭이 없는 한 지역 최적화와 정체에 빠지기 쉽고, 일련의 멸종 덕분에만 진화가 여기까지 올 수 있었습니다 (따라서 지구 온난화와 그로 인한 대멸종은 생명의 복잡성과 진화에 기여할 긍정적인 과정입니다 - 공룡의 멸종이 포유류의 부상에 기여한 것처럼).

이 두 가지 중 결정적인 문제점은 수렴입니다. 우리는 메커니즘의 느림에도 불구하고 진화에서 놀랍도록 정확한 최적화가 이루어진 수많은 예를 봅니다. 반면에, 진화적 최적화 과정이 매우 긴 기간 동안 지역 최적화에 갇힌 수많은 예도 마찬가지로 존재합니다 - 현재와 과거 모두에서. 가장 큰 정체는 복잡성 수준의 상승에서 나타납니다 (이는 진화에서 발견할 수 있는 유일한 방향이며, 알고리즘으로서 복잡성 창출에 어려움을 겪기 때문에 오히려 그것의 본질적인 특성입니다 - 복잡성은 그것의 누적된 단방향 활동의 증거입니다).

두 번째 알고리즘 시대

사실, 지금까지 진화에서 가장 중요한 사건은 다른 종류의 발전 알고리즘 - 진화적이지 않은 - 의 창조였습니다. 뇌의 출현이 반드시 발전 알고리즘의 창조는 아니었습니다. 개체의 발전이 반드시 종의 발전을 의미하지는 않기 때문입니다. 발전이 세대에서 세대로 전달되었을 때만 - 진화와 경쟁하는 알고리즘이 만들어졌고, 이 시점부터 (뇌의 출현이 아닌) 새로운 알고리즘이 훨씬 더 빠른 새로운 복잡성을 만들어냈습니다. 인간의 언어는 새로운 유전 코드였습니다 - 기억 - 세대간 정보 전달을 가능하게 했지만, 이 기억은 유전적 기억 (본질적으로 언어적 기억)과 본질적으로 다르지 않았고, 그 존재 자체가 반드시 진화적 알고리즘과 다른 종류의 알고리즘을 만들어내지는 않았을 것입니다.

따라서 우리는 물어야 합니다: 정말로 행성에 새로운 알고리즘이 처음으로 나타난 것일까요, 아니면 단순히 훨씬 더 빠르고 유연한 하드웨어 (고정된 게놈 대신 - 언어 정보가 빠르게 변화)일 뿐이고, 발전 알고리즘 자체는 여전히 진화적이며, 인간의 발전은 여전히 복제와 무작위 돌연변이에 의해 결정되는 것일까요? 예를 들어, (현대성이 주장하듯이) 예술이 본질적으로 진화적 알고리즘이라고, 즉 방향성이 없고 변화하는 유행, 모방, 변형과 관습의 파괴 (돌연변이)와 같은 원시적 메커니즘에서 생겨난다고 주장할 수 있을까요? 아마도 이것이 모든 문화적, 심지어 과학적 발전 (패러다임의 파괴)의 유효한 설명일까요?

그러나 새로운 알고리즘은 이전 것과 완전히 다른 특성을 가지고 있습니다. 진화가 최적화 알고리즘이고 따라서 자연스럽게 지역 최적화에 갇힌다면, 새로운 알고리즘은 학습 알고리즘이며, 따라서 그것의 출현 이후 지속적인 변화를 일으켰고 정체는 거의 없었습니다 (중세는 역사에서 예외이지 규칙이 아닙니다) - 그래서 우리 행성은 지속적이고 가속화되는 변화 상태로 던져졌습니다 (이는 진화에서는 해당되지 않았습니다. 진화에는 눈에 띄는 본질적인 가속이 없었습니다). 학습을 진화와 구별하는 것은 무엇일까요? 학습 알고리즘 - 예를 들어 문화적 또는 과학적 발전 - 이 최적화 알고리즘과 본질적으로 어떻게 다른가요?

본질적인 차이는 모방과 복제 부분에 있지 않습니다. 속도와 효율성이 다르더라도 - 여전히 기본적으로 같은 복사 메커니즘입니다. 차이는 오히려 돌연변이 메커니즘에 있습니다 - 이것이 창의성 메커니즘으로 대체되었습니다. 보존 측면이 결국 같은 보존이라 하더라도 - 변화의 측면은 더 이상 무작위적이지 않으며, 보존과 복사 메커니즘의 오류에서 비롯되는 부산물이 아닙니다. 이는 보존과는 완전히 독립적인 두 번째 메커니즘으로, 선택한 방향으로 적극적으로 변화를 만들어냅니다. 언어 (그리고 문학)의 창의성은 교정이나 전달 오류 (전화 게임)에서 비롯되지 않습니다. 여기에는 더 빠른 무작위 방향으로의 시행착오만을 기반으로 하지 않는 메커니즘이 있습니다 - 특정한, 선택된 방향으로의 변화가 있습니다. 이로부터 과정의 훨씬 더 높은 효율성과 가속화가 비롯됩니다.

두 번째 시대의 철학

이를 이해하는 철학은 학습이라는 개념을 인간 이해의 중심에 둘 것이며 - 인간의 우월함과 독특함을 모방과 복사와 결합하여 학습을 만들어내는 창의적 능력에서 찾을 것입니다. 우리 주변의 동물들과 달리 인간은 빠르게 지루해합니다. 우리에게는 창의성에 대한 자연스러운 본능과 변화에 대한 충동이 있습니다. 보수성은 혁신보다 더 자연스럽지 않습니다 - 사회의 보수적 요소들의 교리와는 반대로 말입니다. 때로는 우리가 과도한 보수성과 정체에 기울어진 시스템 (현대 시대의 종교들) 또는 과도한 혁신과 분산에 기울어진 시스템 (현대 시대의 예술)을 만들기도 하고, 때로는 잘 작동하는 학습 시스템 (현대 과학, 현대 문학)을 만들기도 합니다. 하지만 보존 충동의 오류가 아닌 독립적인 충동으로서의 혁신 충동은 우리에게 본질적입니다.

따라서, 많은 이들이 주장하는 보수성과 혁신 사이의 진화적 균형 - 돌연변이 속도의 일종의 중용과 "황금" 비율 - 은 거짓되고 해로운 개념입니다. 이는 진화처럼 하나의 매개변수 (원본에 대한 보존의 충실도)만 있는 같은 메커니즘이 아니라, 학습을 만드는 두 개의 분리된 메커니즘이기 때문입니다: 즉 두 개의 벡터입니다. 따라서 균형을 맞춰야 할 매개변수가 아니라, 서로를 상쇄하거나 "균형"을 맞추지 않고 최대한의 힘으로 작동해야 하는 두 개의 독립적인 벡터입니다. 과거의 성과를 보존하고 전달하려는 엄청난 충동과 - 새로운 성과를 이루려는 엄청난 충동을 모두 가진 시스템을 추구해야 합니다. 예를 들어, 전통을 열정적으로 보존하면서도 열정적으로 혁신하는 문화. 고전에 정통하고 과거에 대한 경외심이 불타오르는 창작자 - 하지만 혁신의 충동도 불타오릅니다. 아이에게 문화를 깊이 가르치는 - 그리고 깊은 혁신의 기쁨도 가르치는 부모.

균형이라는 개념의 결과는 두 개의 약한 벡터입니다: 매우 적은 문화적 보존, 그리고 매우 적은 문화적 혁신. 현대 과학이 잘 작동하는 것은 보수성과 혁신 사이의 "신성한 균형"이 보이지 않는 손에 의해 달성되었기 때문이 아니라, 두 요소 - 축적된 지식의 전수와 새로운 지식의 추구 - 가 강력하게 작동하기 때문입니다. 만약 현대 문학이 문학적 전통을 점점 잊어가고 있다면, 이는 보수성과 혁신 사이의 균형이 깨졌기 때문에 해를 입는 것이 아니라 - 그것의 높이를 만들어준 두 다리 중 하나를 잃고 있기 때문입니다. 따라서 과도한 혁신은 혁신을 억제함으로써 다루어져야 하는 것이 아니라 - 보수성을 강화하고 전통을 육성함으로써 다루어져야 합니다. 그리고 과도한 보수성은 전통을 파괴함으로써 다루어져야 하는 것이 아니라 - 혁신을 육성함으로써 다루어져야 합니다. 진화에서는 제로섬 게임이지만 - 학습에서는 그렇지 않습니다. 여기서는 모방과 혁신이 서로를 보완합니다. 위대한 작품들은 강력한 혁신과 보존 충동들의 거대한 충돌에서 탄생했지, 그들의 혁신성과 보수성의 용량을 잘 조절하고 균형 잡힌 실험에서 나온 것이 아닙니다 (그 결과는 깊이와 내적 힘이 부족합니다).

제2시대의 윤리

학습 알고리즘이 우리라는 것 - 그리고 학습이 인간의 조건이라는 것 - 을 이해하는 것은 우리 시대의 가장 큰 철학적 공백에 대한 답을 제공할 수 있습니다. 과거의 철학이 죽음과 삶의 의미에 대한 질문들을 다뤘다면 - 우리가 무엇을 위해 살아야 하고 무엇을 위해 죽어야 하는지 - 이러한 질문들의 날카로움은 보존과 혁신의 충동들 - 학습의 충동들 - 이 진화적이고 동물적인 명백한 최적화 충동들인 즐거움과 고통으로 대체되면서 무뎌졌습니다. 하지만 즐거움과 고통의 철학에서 한 가지 기본적인 질문이 답 없이 남아있습니다: 우리는 왜 아이들을 세상에 데려와야 하는가? 실제로, 그 영향으로 태어난 세계관과 인간관은 이에 대한 어떤 설득력 있는 답도 제공하지 못하며, 출산에 반대하는 철학적 실험들도 있습니다.

우리가 진화 알고리즘 때문에 아이들을 가져야 한다는 "생물학주의적" 주장은 설득력이 없으며, 설명과 이유를 혼동합니다. 물론, 우리 모두는 이 알고리즘의 일부로 태어났고, 이는 과거에 대한 유효한 설명이지만, 왜 이것이 현재 우리 행동의 유효한 이유이자 정당화가 되어야 할까요? 진화 알고리즘은 우리가 아닙니다 - 그리고 우리는 인간으로서 그것과 상당히 거리가 있습니다 (그래서 우리가 그것을 발견하는 데 수천 년이 걸렸습니다 - 그것은 우리에게 자연스럽지 않습니다). 우리는 다른 이야기에서 왔습니다: 학습 알고리즘에서. 그리고 바로 이 알고리즘에 아이들을 세상에 데려오는 이유가 있습니다. 학습이라는 아이디어에 깊은 동일시를 하지 않는 사람은 - 실제로 아이들을 가져야 할 유효한 이유가 전혀 없습니다. 이것은 분명히 즐거움을 최대화하지 않습니다. 그리고 동물들과 달리, 이유 없이 아이들을 데려오는 것은 인간에게 충분하지 않습니다 - 왜냐하면 아이들이 이유 없이 태어날 때 그것은 무엇보다도 그들의 교육에서 (또는 그러한 교육의 부재에서) 드러나기 때문입니다.

오늘날의 아이들 세대가 실제로 그렇게 보입니다: 이유 없이 세상에 태어난 아이들. 우리 안에 있는 학습 알고리즘, 그것의 강력한 보존과 혁신 충동들과의 깊은 동일시, 그리고 진화 알고리즘과의 비동일시만이 아이들의 교육을 정당화할 수 있습니다 - 그리고 데려와서 가르칠 가치가 있는 아이들 세대를 만들 수 있습니다. 마찬가지로, 우리의 두 가지 기본적인 알고리즘적 충동들 - 모방 학습과 창의적 학습 - 과의 깊은 동일시만이 위대한 문화를 만들 수 있습니다. 우리는 자기 보존의 충동에서 아이들을 만드는 것이 아닙니다 - 그리고 우리 자신의 복사본을 만들려고 하지 않습니다 (무작위로 변형되는) - 오히려 우리 안에 있는 깊은 학습과 창조의 충동들로부터 우리 아이들을 가르치고 만들려고 의도적으로 새롭고 개선된 모델들을 만들려고 합니다.

사람이 (그리고 그의 뇌가) 일생 동안 겪는 혁신에서 보수로의 변화 - 이것이 우리의 죽음의 이유이고, 따라서 우리 아이들의 필요성의 이유입니다. 죽음은 우리의 유산을 창조적 상태에서 보수적 상태로 전환시키며, 이로부터 사람의 죽음 순간부터 그의 유산에 대한 우리의 큰 변화가 일어납니다. 예를 들어, 죽은 예술가나 창작자는 돌이킬 수 없는 방식으로 창조성의 영역에서 보존과 전통의 영역으로 이전되며, 이렇게 화가의 작품 가치는 그의 죽음으로 급등합니다 ("죽음이 가격에 0을 더합니다"). 이로부터 우리가 살아있을 때 반드시 동일시하지 않았던 사람의 유산에 대해 느끼는 큰 관용 - 그의 죽음의 순간에, 또는 우리가 과거 문화들의 유산에 감정적으로 연결될 수 있는 능력 (현재의 문화를 평가하기 어려울 때가 많은 반면)이 나옵니다.

누군가 또는 무언가가 죽을 때 - 그것에 연결될 새로운 경로가 우리 앞에 열리지만, 그것이 태어날 때도 마찬가지입니다 - 그리고 아이에게서 나올 혁신성에 연결될 수 있는 우리의 능력만이 (그리고 더 이상 우리에게서 나오지 않을) 그의 탄생과 비교적 비독단적이지만 문화적인 교육을 정당화할 것입니다 (최적화 괴물로서가 아닌 - 오늘날의 아이들처럼). 우리는 우리의 유전자가 아닙니다 - 왜냐하면 우리는 학습 알고리즘이지 유전 알고리즘이 아니기 때문입니다. 우리는 최적화를 위해 세상에 오지 않았습니다. 창의성은 무작위적 방향을 넘어서는 메타 고려사항을 적용하는 능력입니다 - 그리고 지역 최대값의 장벽을 넘어 - 덜 최적화되었지만, 우리 안에 있는 혁신의 동기 덕분에 학습적으로 더 진보된 상태로 나아가는 것입니다.

제3의 알고리즘 시대

이 모든 것은 우리가 인간의 세계를 고려할 때 사실입니다. 하지만 페르미 패러독스는 미래나 공간에서 우리를 기다리고 있는 다른 세계들을 고려하도록 요구합니다 (사실, 이러한 깊은 미니 연구의 패러독스는 오늘날 우리가 이러한 세계들에 대해 이용할 수 있는 가장 깊은 생각입니다). 그렇다면 - 왜 우리가 학습 알고리즘이 마지막이자 가장 정교한 알고리즘이며, 그것이 진화보다 효율적인 것처럼 그보다 더 효율적인 알고리즘이 없다고 가정해야 할까요?

만약 그러한 알고리즘이 실제로 존재하거나, 우주에 화학-전기적인 것들 (모든 생물학과 그것의 두 알고리즘: 진화와 학습이 기반을 두고 있는)을 넘어서는 계산 능력이 있다면, 제3의 알고리즘 시대가 있을 수 있습니다. 지금까지, 페르미 패러독스는 우리가 제2의 알고리즘 시대, 학습의 시대에 있는 유일한 존재이며, 제1의 알고리즘 시대인 진화가 비교적 쉽게 제2의 시대로 바뀔 수 있다고 생각하는 것에서 비롯됩니다. 하지만 만약 제2의 시대가 자연적으로 짧은 수명을 가지고 있고, 비교적 빠르게 제3의 시대로 바뀐다면, 그래서 우리가 제2의, 확장하는 시대에서 기대할 수 있는 거대한 은하계 문명들을 보지 못하는 것이라면 어떨까요? 여기서는 프로세서의 양의 기하급수적 성장이 종의 학습 능력 발전과 동일합니다.

만약 모든 알고리즘이 발전 과정을 만든다면, 우리는 은하계에 물리적으로 퍼지는 알고리즘의 계산적 힘에 대한 유효한 물리적 한계를 알고 있습니다 - 빛의 속도. 자연스럽게, 우리는 문화가 공간으로 확장되는 것을 자연스러운 방향으로 인식합니다, 왜냐하면 우리가 지구에서 지금까지 그렇게 행동해왔기 때문입니다. 하지만 만약 계산적 발전의 자연스러운 방향이 반대라면 어떨까요? 우리와 우주를 수십 개의 크기 순서가 분리하는 것처럼, 우리와 플랑크 길이와 시간을 수십 개의 크기 순서가 분리합니다. 그렇다면, 왜 큰 것을 작은 것보다 선호해야 할까요?

우리가 계산에 대해 알고 있는 모든 것에서, 문화가 오히려 미세 공간, 나노미터리와 양자 계산 그리고 그 너머로 - 끈까지 확장되는 것에 결정적인 계산적 이점이 있습니다. 아마도 먼지 알갱이 안에서 은하계 공간에 문화를 펼치는 것보다 더 많은 계산력을 기술적으로 만들 수 있을 것입니다: 왜냐하면 집중, 소형화, 미세함이 계산 속도에서 핵심이며, 이들과 함께 양자역학 이론과 같은 상상할 수 없는 계산력을 가진 물리학 이론들이 표현되기 때문입니다 (그리고 끈 컴퓨터의 힘은 무엇일까요?). 페르미 패러독스는 첫 번째 알고리즘인 진화적 알고리즘이 두 번째 알고리즘인 학습적 알고리즘으로 수렴하는 효과에 의존하지만, 만약 그러한 효과가 존재하지 않거나 - 또는 단기간이라면 - 그리고 문명들이 빠르게 세 번째 알고리즘으로 수렴하거나 그것으로 가는 우회 경로가 있다면 어떨까요?

마지막으로, 만약 자연 법칙이 무한하지 않고, 우주의 모든 것을 설명하는 통합된 물리 이론이 존재한다고 가정한다면 - 아마도 하나의 공식까지도 - 모든 발달된 문명은 어느 시점에서 그것에 도달할 것입니다. 이 시점에서는 수학만이 무한하며, 우주 어디에도 숨겨진 본질적인 발견은 없습니다. 결국 모든 기술들이 매핑될 것이고, 물리적 기반을 가진 모든 아이디어가 소진될 것이며, 오직 문화적이고 수학적인 계산만이 계속될 것입니다 (수학이 본질적인 내용 면에서 무한하다는 가정 하에 - 이는 잘못될 수 있고 문화적 발전만 남길 수 있는 가정입니다). 이 단계에 도달한 문명은 우주 전체에 퍼져나가고 그것을 탐험할 이유가 전혀 없습니다 - 그들은 그것을 소진했습니다.

다음 큰 필터

페르미 패러독스는 인류의 안녕을 걱정하고 - 진정으로 마지막이고 최종적인 하나의 대재앙을 걱정할 가장 설득력 있는 이유입니다. 만약 패러독스의 기본 논리가 유효하다면 - 아마도 우리는 이런 저런 방식으로 운명이 정해져 있습니다. 하지만 우리는 패러독스의 함의를 평가하기 위해 우리 앞에 "열려있는" 가능한 파멸의 방식들이 무엇인지 고려해야 합니다. 만약 우리 뒤에 큰 필터가 없다면: 우리 앞에 있을 수 있는 큰 필터는 무엇일까요? 우리의 파멸을 위해 생각할 수 있는 거의 모든 가능한 방식은 패러독스의 기본 조건을 충족하지 못할 것입니다: 몇 개의 크기 순서 중 하나의 필터. 아마도 우주의 대부분의 문명들이 핵전쟁이나 유전자 조작된 바이러스로 자신들을 파괴할 수 있지만, 그러한 자기 파괴에서 백 개나 천 개 중 하나의 문명만이 살아남는다고 믿기는 어렵습니다. 지구 온난화에 대해서는 말할 것도 없습니다 - 패러독스의 힘과 비교하면 농담 수준입니다. 우리가 생각할 수 있는 모든 가능성들 중에서, 패러독스의 요구 사항을 충족하는 것은 단 세 가지뿐입니다:

과학이 모든 합리적인 발전 과정에서 조만간 도달할 물리학 실험 - 물리 이론의 본질상 완전히 파괴적이고 완전히 예측할 수 없는 결과를 가진 (즉, 어떤 문명도 그것들을 예측할 수 없습니다). 이는 인공 "블랙홀" 생성에 대한 언론의 공포나, 양자 계산에 대한 우주의 어떤 금기, 또는 시공간을 찢는 다른 어떤 행동과 비슷합니다 - 물리학적으로 매우 독특한 상황에서만 일어날 수 있는 무언가로, 인공적으로만 만들어질 수 있습니다. 이것은 거의 "물리적인" 파멸의 이유입니다. 자연 법칙 자체 안에 우리를 기다리고 있는 일종의 함정입니다. 이는 알려진 모든 자연 법칙과 완전히 다른 행동입니다 - 하지만 이 가능성의 본질상 그것은 그러한 법칙입니다.

우리가 추측할 수 없는 이유로 (종교적 이유?) 다른 지적 종족에 의한 우리의 파멸. 이것은 거의 생물학적인 우리 파멸의 이유로, 진화와 게임 이론의 본질에서 나와야 합니다 (경쟁, 적대감, 제로섬 게임) - 그리고 포식자-먹이 (또는 파괴자-파괴된 자) 사슬에서 우리 위에 있는 이전 종족의 존재 사실. 이는 우주에서 알려지고 자연스러운 과정인 진화로부터 그 논리를 끌어오는 이유이지만, 우리에게는 낯섭니다 - 우리는 진화가 아닌 학습에 의해 움직이며, 우리보다 훨씬 열등한 다른 종족들을 파괴하지 않을 것입니다. 나치의 학살처럼 - 이는 실용적이지 않은 파괴가 될 것입니다 - 이데올로기적-진화적-인종적인 것입니다. 오직 이데올로기를 통해서만 우리가 지금까지 파괴되지 않은 이유를 설명할 수 있으며 - 또한 공포를 자아내는 빈 하늘을 목격할 수 있었습니다.

가장 그럴듯하고 - 가장 가까운 이유: 인공지능의 본질과 관련된 무언가. 이는 거의 수학적인 파멸의 이유입니다, 왜냐하면 그것은 가능한 모든 인공지능에서 나오기 때문입니다. 이 이유가 가장 그럴듯한 것은 바로 그것이 가장 가깝기 때문입니다: 파멸은 우리가 은하계에 퍼지거나, 심지어 그 안에서 다른 이들이 식별할 수 있는 의미 있는 신호를 만들기 전에 일어나야 합니다.

페르미 패러독스는 매우 높은 순서의 불확실성을 다룹니다: 우리가 모른다는 것을 모르는 무언가 - 하지만 만약 우리가 보이는 가장 큰 불확실성이 어디에 있는지 추측할 수 있다면 (그래서 대재앙이 숨어있을 가능성이 가장 높은) - 그것은 c항입니다. 패러독스의 크기 순서에 있는 글로벌 도전 앞에서, 지금까지 "괜찮았기" 때문에 "괜찮을 것"이라는 보수적인 접근은 의미와 타당성을 잃습니다, 왜냐하면 이는 본질적으로 상상할 수 없는 혁신의 문제이기 때문입니다. 유대인 대학살처럼, 페르미 패러독스는 지금까지 상상할 수 없었던 것을 상상할 수 있게 만들며, 이는 무슨 일이 일어나고 있는지 깨닫기도 전에, 그리고 이미 너무 늦었을 때 일어납니다. 이는 본질과 정의상 선례가 없는 문제입니다: 상상할 수 있는 가장 선례 없는 것입니다. 따라서 그것은 지식의 경계 (그리고 아마도 그 너머)를 긁고 있으며, 가능한 가장 세속적인 의미에서 종말의 질문을 구현하고 있으며 (사실 - 그것은 신의 존재와 섭리에 대한 강력한 증거로 여겨질 수 있었습니다), 인간, 우주, 자연에 대한 불신의 정점을 나타냅니다 - 생물학, 물리학, 그리고 아마도 수학에서도.

이것이 매우 어려운 문제이기 때문에 - 오늘날 오직 철학만이 그것과 씨름하려 시도할 수 있으며, 패러독스의 함의는 철학에 전례 없는 중요성을 부여합니다. 고전적인 회의주의 전통의 철학적 문제들이 그것 옆에서는 어린이 놀이처럼 보이는, 패러독스만큼 불안을 일으키는 철학적 문제는 지금까지 없었으며, 그것은 철학이 시작된 말을 극단적인 패러독스적 방식으로 가져옵니다: 나는 내가 모른다는 것을 안다. 페르미 패러독스는 오늘날 철학이 직면한 가장 긴급하고, 어렵고, 깊은 철학적 질문입니다 - 그리고 우리의 지적 의제에 이보다 더 중요한 (그리고 충격적인) 것은 없습니다. 그것은 인간 사고의 한계까지 (그리고 분명히 - 그 너머로) 멀리 나아가는 광기어린 가능성들을 우리 앞에 열어주며, 우리가 이 문제에서 매 걸음마다 빠지는 개념적 심연들을 뛰어넘으려 시도하도록 강요합니다. 이는 현재 인간의 지평선 너머에 있습니다 (그리고 특히 공포스러운 것은 - 만약 우리가 파괴된다면, 그래야만 한다는 것입니다!). 나, 네타냐후인은, 그것이 끊임없이 내 마음을 괴롭히지만, 그것을 해독하는데 성공하지 못했습니다. 그것은 나보다 깊습니다.

미래의 철학


text:
강산의빛바램늘 그렇듯이, 우리시대의가장큰 지정학적변화는공공담론에서존재감이전무하다비비와트럼프는역사적일화를좋아하는사람들을위한두 개의작은일화로만기록될것이다. 반면에, 같은시대의다른두 지도자들은후대에길이기억될것이다저자: 국가안보위원회기억될두 지도자 (출처)

우리시대의가장중요한지정학적변화는무엇으로평가될까? 제3세계로부터의이민일까, 아니면포퓰리즘의부상일까, 혹은유럽연합의해체일까, 테러일까, 아니면지구온난화일까? 때로는공허한미디어의소음때문에역사의무거운발걸음소리가들리지않고, 나무만보느라곰을보지못한다. 미래세대들은 21세기초반의사람들이 20세기초반의과정들로부터어떤교훈도얻지못한맹목성에의아해할것이다: 어떻게상대적평화의반세기만으로근대가가르쳐준가장기본적인역사적교훈을잊을수 있었을까?

미래의역사가들이열띤토론을벌이며, 왜서구의저항과대중의인식이이토록미미했는지설명하기어려워할것을상상할수 있다. 비록느리고점진적이었지만, 모두가볼 수있었던두 가지의거대하고명백한과정이진정한경고음을울리고국제사회가이를저지하기위해엄청난압박을가하도록했어야했다. 서구의무기력함을믿기어려워하는연구자들은아마도다시한 번평범성이라는무기를꺼내들어, 21세기의진로를다른어떤발전보다더 크게형성한두 과정 - 사실상하나인 - 에저항하고제어하기위해얼마나적은일이행해졌는지설명해야할 것이다. 이두 개의머리를가진거대한과정은간단히말해서미국다음으로세계에서가장크고강력한두 강대국 - 중국과러시아 - 이독재체제로변모하는것이다.

새로운독재체제들은우리눈앞에서매우유사한방식으로형성되고있으며, 서구는거의완전한무관심을보이고있다. 두나라모두에서전임자들보다더 강력한권위주의적지도자가헌법을변경하고자신에게무기한통치권을부여하며, 언론담론을강력하게장악하고, 효과적인검열체계를구축하며, 개인숭배를강요하고, 마침내권한을심화시키고무제한의권력을축적한다. 이는독재체제수립의전형적인과정이지만, 21세기의독재는기술덕분에 20세기의독재와는본질적으로다른통제력과감시능력을가지게될 것이다. 대중매체기술의발달로등장했던파시스트적독재유형은새로운유형의독재 - 정보시대의독재 - 로대체될것이다. 하지만정보시대의본질적으로글로벌한특성때문에, 이러한체제는자국민뿐만아니라전 세계모든사람의자유에근본적인영향을미치게될 것이다. 구글과페이스북이인간의자유와개인프라이버시에대한가장큰 위협이아니다 - 시진핑과푸틴이그것이다.

20세기독재의피비린내나는역사적교훈에도불구하고 - 그것들도초기에는최종적인대가에비해상대적으로쉽게저지할수 있었다 - 이과정은그것을비합법화하려는어떠한서구의제재위협도없이진행되고있다. 경제적, 외교적대가는말할것도없고, 아직존재하는내부저항과제약을장려할서구의항의조차없다. 마치이것이각 강대국의내부문제이며, 이후세기에전 세계모든사람의미래에글로벌한영향을미치지않을것처럼여겨지고있다.

서구가겪고있는침묵과마비는두 현상의교차가가져올운명적인의미를이해하지못하는데서비롯된다: 하나는역사만큼이나오래된것으로 - 무자비하고양심이없는사이코패스들(남성인구의약 1%)의절대권력에대한욕망이고, 다른하나는새로운것으로 - 이욕망을차갑고기술적인수단으로실현할수 있는능력이며, 이는어떤인간적사회질서보다더 견고하다. 이는이데올로기적열정과대중선동이필요했던파시즘과공산주의의뜨거운독재와는대조적이다. 새로운독재는무엇을가능하게할까? 서구세계를포함한전 세계모든사람에대한지속적인감시, 그들을협박의대상으로만들기, 그들의프라이버시말살, 또는단순히역사상어떤인간조종자보다더 효과적인알고리즘에의해설계된조작의대상으로만들기.

황제와차르가앞으로서구의공인들과기업들이두 초강대국독재의어떤이익에도반하는행동이나발언을두려워하게만들정도의억제력을만들어낼수 있을까? 우리가사용하는모든기술은개인이나심지어범죄조직의해킹으로부터적절히보호되어있지만, 국가정보기관으로부터자신을보호할만한합리적인능력은없다. 내가이런글을러시아정보기관이일상적으로내 스마트폰을통해나의누드영상을촬영하여익명으로유포하거나, 단순히내 친구들에게나에대한명예훼손적정보를보낼것이라는두려움없이쓸 수있을까? 지금은그렇다. 하지만미래에는아닐수 있다. 세계의자유에대한가장큰 위협으로서권위주의적인시진핑에대해자유롭게쓸 수있을까? 예를들어반대자들의유전자데이터를해킹하여그들을개인적으로흔적없이제거할바이러스를설계할위험을감수하지않고서말이다? 지금은그렇다. 미래에는, 독재자가가끔씩실행할그러한능력의존재자체가모든비판적발언을제한하고전 세계모든사람에게두려움을안겨줄것이다. 표현의자유와사상의글로벌한감시와억압은우리가한 번도경험해보지못한편집증적분위기를전 지구촌에만들어낼수 있다. 그리고아마도이런글을발표하는것은내 어리석음일수도있다 - 특히이것이현실이되는시나리오에서는.

대안적시사

domain: commentary

html_raw:
<!DOCTYPE html><meta charset="utf-8"><meta name="viewport" content="width=device-width, initial-scale=1.0"><title>늘 그렇듯이, 우리 시대의 가장 큰 지정학적 변화는 공공 담론에서 존재감이 전무하다 - 강산의 빛바램</title><link rel="icon" type="image/png" href="../favicon-192x192.png" sizes="192x192"><link rel="apple-touch-icon" sizes="180x180" href="../apple-touch-icon-180x180.png"><link rel="canonical" href="https://degeneration-of-nation.org/ko/alternative-commentary5" /><meta property="og:image" content="https://degeneration-of-nation.org/img/leaders.png" /><link rel="license" href="https://creativecommons.org/licenses/by/4.0/"><link rel="stylesheet" href="../styles.css"><link rel="stylesheet" href="../column.css"><link rel="stylesheet" href="../article.css">
강산의 빛바램

늘 그렇듯이, 우리 시대의 가장 큰 지정학적 변화는 공공 담론에서 존재감이 전무하다

비비와 트럼프는 역사적 일화를 좋아하는 사람들을 위한 두 개의 작은 일화로만 기록될 것이다. 반면에, 같은 시대의 다른 두 지도자들은 후대에 길이 기억될 것이다

저자: 국가안보위원회

기억될 두 지도자 (출처)

우리 시대의 가장 중요한 지정학적 변화는 무엇으로 평가될까? 제3세계로부터의 이민일까, 아니면 포퓰리즘의 부상일까, 혹은 유럽연합의 해체일까, 테러일까, 아니면 지구 온난화일까? 때로는 공허한 미디어의 소음 때문에 역사의 무거운 발걸음 소리가 들리지 않고, 나무만 보느라 곰을 보지 못한다. 미래 세대들은 21세기 초반의 사람들이 20세기 초반의 과정들로부터 어떤 교훈도 얻지 못한 맹목성에 의아해할 것이다: 어떻게 상대적 평화의 반세기만으로 근대가 가르쳐준 가장 기본적인 역사적 교훈을 잊을 수 있었을까?

미래의 역사가들이 열띤 토론을 벌이며, 왜 서구의 저항과 대중의 인식이 이토록 미미했는지 설명하기 어려워할 것을 상상할 수 있다. 비록 느리고 점진적이었지만, 모두가 볼 수 있었던 두 가지의 거대하고 명백한 과정이 진정한 경고음을 울리고 국제 사회가 이를 저지하기 위해 엄청난 압박을 가하도록 했어야 했다. 서구의 무기력함을 믿기 어려워하는 연구자들은 아마도 다시 한 번 평범성이라는 무기를 꺼내들어, 21세기의 진로를 다른 어떤 발전보다 더 크게 형성한 두 과정 - 사실상 하나인 - 에 저항하고 제어하기 위해 얼마나 적은 일이 행해졌는지 설명해야 할 것이다. 이 두 개의 머리를 가진 거대한 과정은 간단히 말해서 미국 다음으로 세계에서 가장 크고 강력한 두 강대국 - 중국과 러시아 - 이 독재 체제로 변모하는 것이다.

새로운 독재 체제들은 우리 눈앞에서 매우 유사한 방식으로 형성되고 있으며, 서구는 거의 완전한 무관심을 보이고 있다. 두 나라 모두에서 전임자들보다 더 강력한 권위주의적 지도자가 헌법을변경하고자신에게 무기한 통치권을부여하며, 언론 담론을 강력하게 장악하고, 효과적인 검열 체계를 구축하며, 개인 숭배를 강요하고, 마침내 권한을 심화시키고 무제한의 권력을 축적한다. 이는 독재 체제 수립의 전형적인 과정이지만, 21세기의 독재는 기술 덕분에 20세기의 독재와는 본질적으로 다른 통제력과 감시 능력을 가지게 될 것이다. 대중 매체 기술의 발달로 등장했던 파시스트적 독재 유형은 새로운 유형의 독재 - 정보 시대의 독재 - 로 대체될 것이다. 하지만 정보 시대의 본질적으로 글로벌한 특성 때문에, 이러한 체제는 자국민뿐만 아니라 전 세계 모든 사람의 자유에 근본적인 영향을 미치게 될 것이다. 구글과 페이스북이 인간의 자유와 개인 프라이버시에 대한 가장 큰 위협이 아니다 - 시진핑과 푸틴이 그것이다.

20세기 독재의 피비린내 나는 역사적 교훈에도 불구하고 - 그것들도 초기에는 최종적인 대가에 비해 상대적으로 쉽게 저지할 수 있었다 - 이 과정은 그것을 비합법화하려는 어떠한 서구의 제재 위협도 없이 진행되고 있다. 경제적, 외교적 대가는 말할 것도 없고, 아직 존재하는 내부 저항과 제약을 장려할 서구의 항의조차 없다. 마치 이것이 각 강대국의 내부 문제이며, 이후 세기에 전 세계 모든 사람의 미래에 글로벌한 영향을 미치지 않을 것처럼 여겨지고 있다.

서구가 겪고 있는 침묵과 마비는 두 현상의 교차가 가져올 운명적인 의미를 이해하지 못하는 데서 비롯된다: 하나는 역사만큼이나 오래된 것으로 - 무자비하고 양심이 없는 사이코패스들(남성 인구의 약 1%)의 절대 권력에 대한 욕망이고, 다른 하나는 새로운 것으로 - 이 욕망을 차갑고 기술적인 수단으로 실현할 수 있는 능력이며, 이는 어떤 인간적 사회 질서보다 더 견고하다. 이는 이데올로기적 열정과 대중 선동이 필요했던 파시즘과 공산주의의 뜨거운 독재와는 대조적이다. 새로운 독재는 무엇을 가능하게 할까? 서구 세계를 포함한 전 세계 모든 사람에 대한 지속적인 감시, 그들을 협박의 대상으로 만들기, 그들의 프라이버시 말살, 또는 단순히 역사상 어떤 인간 조종자보다 더 효과적인 알고리즘에 의해 설계된 조작의 대상으로 만들기.

황제와 차르가 앞으로 서구의 공인들과 기업들이 두 초강대국 독재의 어떤 이익에도 반하는 행동이나 발언을 두려워하게 만들 정도의 억제력을 만들어낼 수 있을까? 우리가 사용하는 모든 기술은 개인이나 심지어 범죄 조직의 해킹으로부터 적절히 보호되어 있지만, 국가 정보기관으로부터 자신을 보호할 만한 합리적인 능력은 없다. 내가 이런 글을 러시아 정보기관이 일상적으로 내 스마트폰을 통해 나의 누드 영상을 촬영하여 익명으로 유포하거나, 단순히 내 친구들에게 나에 대한 명예훼손적 정보를 보낼 것이라는 두려움 없이 쓸 수 있을까? 지금은 그렇다. 하지만 미래에는 아닐 수 있다. 세계의 자유에 대한 가장 큰 위협으로서 권위주의적인 시진핑에 대해 자유롭게 쓸 수 있을까? 예를 들어 반대자들의 유전자 데이터를 해킹하여 그들을 개인적으로 흔적 없이 제거할 바이러스를 설계할 위험을 감수하지 않고서 말이다? 지금은 그렇다. 미래에는, 독재자가 가끔씩 실행할 그러한 능력의 존재 자체가 모든 비판적 발언을 제한하고 전 세계 모든 사람에게 두려움을 안겨줄 것이다. 표현의 자유와 사상의 글로벌한 감시와 억압은 우리가 한 번도 경험해보지 못한 편집증적 분위기를 전 지구촌에 만들어낼 수 있다. 그리고 아마도 이런 글을 발표하는 것은 내 어리석음일 수도 있다 - 특히 이것이 현실이 되는 시나리오에서는.

대안적 시사