目次
15 関係: AlexNet、双曲線関数、多層パーセプトロン、ネオコグニトロン、バックプロパゲーション、ヤン・ルカン、ヨシュア・ベンジオ、ディープラーニング、ベル研究所、アメリカ合衆国郵便公社、コンピュータビジョン、サポートベクターマシン、畳み込みニューラルネットワーク、Graphics Processing Unit、活性化関数。
AlexNet
Comparison of the LeNet and AlexNet convolution, pooling and dense layers AlexNet は畳み込みニューラル ネットワーク（CNN）の構造の名前であり、Alex Krizhevsky が博士課程の指導教官である Ilya Sutskever および ジェフェリー・ヒントン と共同で設計した。 AlexNet は、2012 年 9 月 30 日に開催された ILSVRC 2012 に参加した。AlexNet はエラー率 15.3% で優勝し、次点よりも 10.8% 以上低かった。この論文の主な内容は、モデルの深さが高性能には不可欠であるというもので、計算コストは高くなるものの、GPU を用いて学習することで実現した。
双曲線関数
csch) のグラフ 数学において、とは、三角関数と類似の関数で、標準形の双曲線を媒介変数表示するときなどに現れる。
見る LeNetと双曲線関数
多層パーセプトロン
多層パーセプトロン（たそうパーセプトロン、Multilayer perceptron、略称: MLP）は、ニューラルネットワークの一分類である。MLPは少なくとも3つのノードの層からなる。入力ノードを除けば、個々のノードは非線形活性化関数を使用するニューロンである。MLPは学習のために誤差逆伝播法（バックプロパゲーション）と呼ばれる教師あり学習手法を利用する。その多層構造と非線形活性化関数が、MLPと線形パーセプトロンを区別している。MLPは線形分離可能ではないデータを識別できる。 多層パーセプトロンは時折、特に単一の隠れ層を持つ時、「バニラ」ニューラルネットワークと口語的に呼ばれることがある。
ネオコグニトロン
ネオコグニトロン（Neocognitron）は、1979年に福島邦彦によって提唱された畳み込みニューラルネットワークである。 畳み込みの手法を導入する以前のコグニトロン（「教師なし学習」を行う多層神経回路）では位置ずれや変形の影響を受けやすかった。 このため、形の類似性だけに基づいてパターン認識することを目的としてネオコグニトロンが開発された。 ネオコグニトロンは複数の種類の細胞から構成され、その中で最も重要な細胞は「S細胞」および「C細胞」と呼ばれる。 局所特徴量はS細胞によって抽出され、微小変位（local shift）といったこれらの特徴の変形はC細胞に委ねられている。 入力中の局所特徴量は、隠れ層によって徐々に統合され、分類される。
バックプロパゲーション
バックプロパゲーション（Backpropagation）または誤差逆伝播法（ごさぎゃくでんぱほう）はニューラルネットワークの学習アルゴリズムである。
ヤン・ルカン
ヤン・アンドレ・ルカン（Yann André LeCun、1960年7月8日 - ）は、フランス出身の計算機科学者で、主に機械学習、コンピュータビジョン、、計算神経科学の研究を行っている。ニューヨーク大学クーラント数理科学研究所のシルバー教授、Meta（旧Facebook社）のヴァイスプレジデント兼チーフAIサイエンティストである。 畳み込みニューラルネットワーク(CNN)の主要な創始者の一人であり、それを用いた光学文字認識やコンピュータビジョンの研究で知られる。また、、パトリック・ハフナーらとともに画像圧縮技術DjVuを創始し、ボトゥーとともにプログラミング言語Lushを開発した。 ディープラーニングに関する研究が評価され、ヨシュア・ベンジオ、ジェフリー・ヒントンとともに2018年のチューリング賞を受賞した。この3人は、「AIのゴッドファーザー」「ディープラーニングのゴッドファーザー」と呼ばれている。
見る LeNetとヤン・ルカン
ヨシュア・ベンジオ
ヨシュア・ベンジオ（Yoshua Bengio 、1964年3月5日 - ）は、カナダの計算機科学者である。ニューラルネットワークとディープラーニングに関する研究で知られる。モントリオール大学計算機科学・オペレーションズリサーチ学科の教授であり、（ケベックAI研究所）の科学ディレクターである。 ディープラーニングにおける研究が評価され、ジェフリー・ヒントンとその教え子ヤン・ルカンとともに2018年のチューリング賞を受賞した。この3人は、「AIのゴッドファーザー」「ディープラーニングのゴッドファーザー」と呼ばれることもある。
ディープラーニング
ディープラーニング（）または深層学習（しんそうがくしゅう）とは、対象の全体像から細部までの各々の粒度の概念を階層構造として関連させて学習する手法のことであるディープラーニング(深層学習)の大家として世界的に知られるIan Goodfellow，Yoshua Bengio，Aaron Courvilleが著した"Deep Learning"という教科書のIntroductionの第4パラグラフ（pp.1-2）におけるディープラーニングの定義では、ニューラルネットワークについて全く触れられておらず、「概念の階層により、コンピューターは、単純な概念から複雑な概念を構築することにより、複雑な概念を学習できます。これらの概念がどのように相互に構築されているかを示すグラフを描くと、グラフは深く、多くの層があります。このため、このアプローチをAIディープラーニングと呼びます。」と概念の階層構造により定義している。
ベル研究所
ベル研究所（ベルけんきゅうじょ、Bell Laboratories）は、アメリカ合衆国の通信研究所である。もともとベルシステムの研究開発部門として設立された研究所であり、現在はノキアの子会社である。「ベル電話研究所」、略して「ベル研（Bell Labs）」とも。
見る LeNetとベル研究所
アメリカ合衆国郵便公社
アメリカ合衆国郵便公社（アメリカがっしゅうこくゆうびんこうしゃ、United States Postal Service, USPS）は、アメリカ合衆国の郵便事業を担当する公社。 アメリカなどではU.S.メール（US mail）などとも呼ばれる。また日本ではアメリカ郵便公社、アメリカ郵政公社もしくはアメリカ合衆国郵政公社と訳される場合が多いが、政府機関では米国郵政庁と訳されることもある。青地に白色のロゴマークは、国鳥であるハクトウワシをイメージしている。 日本の郵政省、郵政事業庁、日本郵政公社がかつて取り扱っていた郵便貯金・簡易生命保険は、アメリカ郵便公社では取り扱っていない。
コンピュータビジョン
コンピュータビジョン（）はコンピュータがデジタルな画像、または動画をいかによく理解できるか、ということを扱う研究分野である。工学的には、人間の視覚システムが行うことができるタスクを自動化することを追求する分野である。 この分野はコンピュータが実世界の情報を取得する全ての過程を扱うため、画像センシングのためのハードウェアから情報を認識するための人工知能的理論まで幅広く研究されている。また、ではコンピュータグラフィックスとコンピュータビジョンの融合が注目を集めている。 研究対象を大別すると、。
サポートベクターマシン
サポートベクターマシン（support-vector machine, SVM）は、教師あり学習を用いるパターン認識モデルの1つである。分類や回帰へ適用できる。1963年にとAlexey Ya. Chervonenkisが線形サポートベクターマシンを発表し、1992年にBernhard E. Boser、Isabelle M.
畳み込みニューラルネットワーク
畳み込みニューラルネットワーク（たたみこみニューラルネットワーク、convolutional neural network、略称: CNNまたはConvNet）は、畳み込みを使用しているニューラルネットワークの総称である。画像認識や動画認識、音声言語翻訳、レコメンダシステム、自然言語処理、コンピュータ将棋、コンピュータ囲碁などに使用されている。
Graphics Processing Unit
Graphics Processing Unit（グラフィックス プロセッシング ユニット、略してGPU）は、コンピュータゲームに代表されるリアルタイム画像処理に特化した演算装置あるいはプロセッサである。グラフィックコントローラなどと呼ばれる、コンピュータが画面に表示する映像を描画するための処理を行うICから発展した。特にリアルタイム3DCGなどに必要な、定形かつ大量の演算を並列にパイプライン処理するグラフィックスパイプライン性能を重視している。現在の高機能GPUは高速のビデオメモリ（VRAM）と接続され、頂点処理およびピクセル処理などの座標変換やグラフィックス陰影計算（シェーディング）に特化したプログラム可能な演算器（プログラマブルシェーダーユニット）を多数搭載している。
見る LeNetとGraphics Processing Unit
活性化関数
活性化関数（かっせいかかんすう、activation function）もしくは伝達関数（でんたつかんすう、transfer function）とは、ニューラルネットワークのニューロンにおける、入力のなんらかの合計（しばしば、線形な重み付け総和）から、出力を決定するための関数で、非線形な関数とすることが多い。
見る LeNetと活性化関数