3日目 CPU/GPUと機械学習

今日も引き続き調べる.

まずGPUの話から.

 

GPU: 3Dグラフィックスを描画するための計算装置であり半導体.グラフィックボードの中にある.VRAMと接続される.

GPU | IT用語辞典 | 大塚商会

 

VRAM: ブイラム.Video RAM. ビデオメモリ.ディスプレイに表示される内容を保持するメモリ.画面の最大解像度や最大同時発色数はVRAMの容量に依存.

ビデオメモリ(VRAM) :一口メモ

 

GPGPU: 画像処理+CPUが行う汎用処理を実行.CUDAもこの機能を搭載.

GPGPUで、GPUがCPUの処理を行う!解説パソコン購入

 

CPU: 計算処理を行う半導体チップ.コア数に応じて処理速度が変化.別名プロセッサ.制御(次に処理するデータのある場所を記憶して演算に伝達)と演算(記憶したデータを処理).マウスとかキーボードのデータが集まり,制御と演算によってパソコンを動かす仕組み.キャッシュメモリと呼ばれるメモリが内臓.

プロセッサーとは?パソコン(PC)の最重要ポイント「プロセッサー」の初心者でも分かる用語解説|ドスパラ通販【公式】

 

キャッシュメモリ: CPUはメモリからデータを呼び出して処理.キャッシュメモリから抜いた方が処理が高速化される.CPUが最初にアクセスするのがL1キャッシュ.最近はL3まである.

CPUとは パソコン初心者講座

 

OpenCL: Open Computer Language.ヘテロジニアスな並列環境のためのフレームワーク.

以下引用↓

OpenCLは,GPUだけでなく,例えばDSP(Digital Signal Processor),あるいは4Gamer的にはPlayStation 3のCPUとして知られる「Cell Broadband Engine」(以下,Cell)などでも利用可能

これで分かるOpenCL。NVIDIAのOpenCLセミナーから,OpenCLの正体と可能性を再確認する

 

PhysX: 物理演算エンジン.GPGPU機能の1つ.NVIDIA提供.

 

Direct Compute: GPGPU用のAPI.アプリケーションを各会社のソフトごとに対応させる必要がなくなった.

GPGPUで、GPUがCPUの処理を行う!解説パソコン購入

 

とりあえず区切る.ディープラーニングゾーンへ参る.

 

●Tensorflow: Googleディープラーニングライブラリ.テンソル(多次元データ構造)計算ライブラリ.

オープンソースのTensorFlowとKerasを比較

 

●Karas: オープンソースディープラーニングライブラリ.バックエンドにTensorflowを利用するディープラーニングライブラリラッパー.

深層学習のライブラリ「Keras」の使い方【入門編】 | TechAcademyマガジン

 

●Pytorch: パイトーチ.Pythonオープンソースディープラーニングライブラリ.

【入門編】PyTorchとは何か?インストールから実装ま…|Udemy メディア

 

●Chainer: チェイナー.Preferred Networksが開発しているディープラニング向けのオープンソフトウェア.Pythonで記述.2019年12月5日にメジャーアップデートの終了を発表.

オープンソースのAI・人工知能 / Chainerとは

 

RNN:  再帰ニューラルネットワークニューラルネットワークの出力を別の入力として利用する再帰的構造を持つニューラルネットワーク

第6回 RNN(Recurrent Neural Network)の概要を理解しよう(TensorFlow編):TensorFlow入門 - @IT

 

機械学習手法は...

1. 目的関数の設計(計算グラフを自力で設計)

2. 勾配の計算(誤差逆伝播機械的に処理)

3. 最小化のための反復計算(勾配を使って反復更新)

からなるらしい. 

 

深層学習フレームワークは以下.

 テンソルデータ構造

 レイヤー(関数)

 ネットワーク(計算グラフ)

 最適化ルーチン

フレームワークによってはインターフェース等異なる.

 

define and run: まず計算グラフを構築し,構築した計算グラフにデータを流す

define by run: 順伝播処理する際,同時に逆伝播用の計算グラフが構築される.

深層学習フレームワークChainerの特徴

 

 

 

今日はここまでにする.

案の定GPUあたりで時間とられた.でもぼんやり全体像が掴めた気がする.

 

機械学習も突っ込んだらキリ無い.

コード書きながら理解するのが早そう.

 

明日明後日は一日使える.

明日で単語メモ終わらせて,日曜からなんか作ってみたいなあ,特にUnity.

 

残りキーワード
OpenGL, Vulkan, DirectX, Metal
ThreeJS, BabylonJS, A-Frame
Open3D, MeshLab
Kinect, Realsense、Xtion
Oculus, Hololens, Git

 

以上