본문 바로가기

분류 전체보기

(20)
8주차 (휴강) 1-s2.0-S0893608019302266-main.pdf Bernoulli spike encoder 강화학습 복습필요.강화학습이란? Reinforcement Learning, RL overviewNASNet이나, RL for abstractive Summarization 등 딥러닝을 공부하다보면 RL 개념이 불쑥 튀어나올때가 있다. 한 번쯤 공부해보고 싶었던 강화학습을 드디어 동아리 스터디 세션에서 가볍게나마 다뤄보았다. 이전까지는 강화학습이 딥러닝에 속하는 subset인줄 알았는데 뿌리부터 다른 굵직한 분야더라.stochastic process 이론과 machine learning 메커니즘이 적절히 융합된 이 분야는 매우 새롭고 흥미로웠다.https://velog.io/@changdaeoh/reig..
7주차 BindsNET tutorial https://github.com/BindsNET/bindsnetWelcome to BindsNET's documentation! - bindsnet documentationBindsNET is built on top of the PyTorch deep learning platform. It is used for the simulation of spiking neural networks (SNNs) and is geared towards machine learning and reinforcement learning. BindsNET takes advantage of the torch.Tensor object to build spiking neurons and connections between them,..
6주차 SNN code- parameters.pyneuron.pyrecep_field.pyvar_th.py: (threshold function) 동시에 나온 spike 수의 /3*scale 을 threshold 로 설정spike_train.py: deterministicrl.py: STDP25번째줄 w-abs(w_min) → abs(w-w_min) 로 수정해야 할듯함. 단순히 (w_max, w_min 의 bounded)reconstruct.py: weight 을 image로...learning.py: lateral inhibition이 1번밖에 실행이 안되는데 수정되어야할듯함. input neuron : input image - receptive field 이용 potential 변환(hidden layer)hidden neu..
5주차 SNN code-2 code neuron.pyrecep_field.pyspike_train.py: stochastic, deterministicweight_initialization.py: weight 을 그냥 -0.7 or 1 로 정해버림. (learning 이 됐다고 가정.)숫자1 은 1에 맞게 weight 바꿈classify.py: learned weight + lateral_inhibition (1번만 실행) 용어공부lateral inhibitionlateral inhibition 은 excited neuron이 neigbhor neuron 의 활동을 감소시키는것. 보통 이를 통해 sensory perception을 증가시킴.inter-neuron 이 neuron 사이에 존재하여 특정 neuron이 활성화 되면 그 ..
4주차 SNN code -1 SNN codeGitHub - Shikhargupta/Spiking-Neural-Network: Pure python implementation of SNNThis is the python implementation of hardware efficient spiking neural network. It includes the modified learning and prediction rules which could be realised on hardware and are enegry efficient. Aim is to develop a network which could be used for on-chip learning as well as prediction.https://github.com/Shik..
3주차 LIF neuron 숙제 listSNN code - Network Elements 다 보기Neuron, Synapse, Receptive field, Spike train SNN codeGitHub - Shikhargupta/Spiking-Neural-Network: Pure python implementation of SNNThis is the python implementation of hardware efficient spiking neural network. It includes the modified learning and prediction rules which could be realised on hardware and are enegry efficient. Aim is to develop a network w..
2주차 Neuroscience 기본 숙제 list - Neuroscience 기본 Neuron의 구조 (Dendrite, Axon, Synapse) Neuron 의 상호작용 (Membrane potential, Action potential, Synaptic potential – EPSP, IPSP) Synaptic plasticity (LTP, LTD) (여유 되면 STDP) Cells of the Brain Neuron : 신경세포. 인간의 뇌에는 860억~1000억개 정도 있다고 알려져 있음. Glia : 신경아교세포. 대표적으로 astrocyte. 뉴런의 수보다 10배 정도 많다고 알려져 있음. 뉴런을 보조하는 역할. 영양물질공급, 환경조절, 면역작용 등등 PNS에서는 Schwann cell이, CNS에서는 oligodendrocy..
1주차 OT SNN? spiking neuron 을 사용하는 NN (기존 딥러닝방식보다 생물학적으로 모방한 NN) 계산신경과학에서 먼저 나온 개념으로 생각됌. 장점 : 실제 뇌연산을 모방할수 있을꺼라 기대됌. 전용 architecture 이용하면 에너지 소비가 매우적음 (neuromorphic) 시계열을 잘 다룬다는 이야기가 있음 한계 : 아직 성능이 크게 좋지 않음. backpropagation 1. biological plausible 해야하는데..! backpropagation 은 실제 뇌에서 안일어날꺼 같은데, 다른 형태로 learning 해야지! 2. backpropagation 이 어떻게든 일어난다고 치더라고, weight update 를 biological plausible 하게 해라!!! 3. 성능을 ..