Hispana. Acceso en línea al Patrimonio Cultural Digital Español

Está en:  › Datos do registro

A new approach to Decimation in High Order Boltzmann Machines

Identificadores del recurso

http://www.tdx.cat/TDX-0124111-175646

http://hdl.handle.net/10803/9155

B.5718-2011

Procedencia

(Tesis de la Universitat Ramon Llull)

Ficha

Título:: A new approach to Decimation in High Order Boltzmann Machines
Tema:: Artificial Neural Networks; Decimation; Boltzmann Machines; Artificial Intelligence; Redes Neuronales Artificiales; Decimación; Máquinas de Boltzmann; Inteligencia artificial; Xarxes Neuronals Artificials; Decimació; Màquines de Boltzmann; Intel·ligència artificial; Les TIC i la seva gestió; 51; 62
Descrición:: La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA.

Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM.

En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar.

Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.; La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA.

Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM.

En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse.

Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.; The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm.

Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established.

We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved.

Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.
Fonte:: TDX (Tesis Doctorals en Xarxa)
Idioma:: English
Autor/Productor:: Farguell Matesanz, Enric
Editor:: Universitat Ramon Llull
Otros colaboradores/productores:: Mazzanti Castrillejo, Ferran; Garriga Berga, Carles; Universitat Ramon Llull. La Salle
Dereitos:: ADVERTIMENT. L'accés als continguts d'aquesta tesi doctoral i la seva utilització ha de respectar els drets de la persona autora. Pot ser utilitzada per a consulta o estudi personal, així com en activitats o materials d'investigació i docència en els termes establerts a l'art. 32 del Text Refós de la Llei de Propietat Intel·lectual (RDL 1/1996). Per altres utilitzacions es requereix l'autorització prèvia i expressa de la persona autora. En qualsevol cas, en la utilització dels seus continguts caldrà indicar de forma clara el nom i cognoms de la persona autora i el títol de la tesi doctoral. No s'autoritza la seva reproducció o altres formes d'explotació efectuades amb finalitats de lucre ni la seva comunicació pública des d'un lloc aliè al servei TDX. Tampoc s'autoritza la presentació del seu contingut en una finestra o marc aliè a TDX (framing). Aquesta reserva de drets afecta tant als continguts de la tesi com als seus resums i índexs.; info:eu-repo/semantics/openAccess
Data:: 2011-04-12T18:37:12Z; 2011-01-24; 2011-01-20
Tipo de recurso:: info:eu-repo/semantics/doctoralThesis; info:eu-repo/semantics/publishedVersion
Formato:: application/pdf

oai_dc

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<oai_dc:dc schemaLocation="http://www.openarchives.org/OAI/2.0/oai_dc/ http://www.openarchives.org/OAI/2.0/oai_dc.xsd">
1. <dc:title>A new approach to Decimation in High Order Boltzmann Machines</dc:title>
2. <dc:creator>Farguell Matesanz, Enric</dc:creator>
3. <dc:contributor>Mazzanti Castrillejo, Ferran</dc:contributor>
4. <dc:contributor>Garriga Berga, Carles</dc:contributor>
5. <dc:contributor>Universitat Ramon Llull. La Salle</dc:contributor>
6. <dc:subject>Artificial Neural Networks</dc:subject>
7. <dc:subject>Decimation</dc:subject>
8. <dc:subject>Boltzmann Machines</dc:subject>
9. <dc:subject>Artificial Intelligence</dc:subject>
10. <dc:subject>Redes Neuronales Artificiales</dc:subject>
11. <dc:subject>Decimación</dc:subject>
12. <dc:subject>Máquinas de Boltzmann</dc:subject>
13. <dc:subject>Inteligencia artificial</dc:subject>
14. <dc:subject>Xarxes Neuronals Artificials</dc:subject>
15. <dc:subject>Decimació</dc:subject>
16. <dc:subject>Màquines de Boltzmann</dc:subject>
17. <dc:subject>Intel·ligència artificial</dc:subject>
18. <dc:subject>Les TIC i la seva gestió</dc:subject>
19. <dc:subject>51</dc:subject>
20. <dc:subject>62</dc:subject>
21. <dc:description>La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</dc:description>
22. <dc:description>La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</dc:description>
23. <dc:description>The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</dc:description>
24. <dc:date>2011-04-12T18:37:12Z</dc:date>
25. <dc:date>2011-01-24</dc:date>
26. <dc:date>2011-01-20</dc:date>
27. <dc:date>2011-01-24</dc:date>
28. <dc:type>info:eu-repo/semantics/doctoralThesis</dc:type>
29. <dc:type>info:eu-repo/semantics/publishedVersion</dc:type>
30. <dc:identifier>http://www.tdx.cat/TDX-0124111-175646</dc:identifier>
31. <dc:identifier>http://hdl.handle.net/10803/9155</dc:identifier>
32. <dc:identifier>B.5718-2011</dc:identifier>
33. <dc:language>eng</dc:language>
34. <dc:rights>ADVERTIMENT. L'accés als continguts d'aquesta tesi doctoral i la seva utilització ha de respectar els drets de la persona autora. Pot ser utilitzada per a consulta o estudi personal, així com en activitats o materials d'investigació i docència en els termes establerts a l'art. 32 del Text Refós de la Llei de Propietat Intel·lectual (RDL 1/1996). Per altres utilitzacions es requereix l'autorització prèvia i expressa de la persona autora. En qualsevol cas, en la utilització dels seus continguts caldrà indicar de forma clara el nom i cognoms de la persona autora i el títol de la tesi doctoral. No s'autoritza la seva reproducció o altres formes d'explotació efectuades amb finalitats de lucre ni la seva comunicació pública des d'un lloc aliè al servei TDX. Tampoc s'autoritza la presentació del seu contingut en una finestra o marc aliè a TDX (framing). Aquesta reserva de drets afecta tant als continguts de la tesi com als seus resums i índexs.</dc:rights>
35. <dc:rights>info:eu-repo/semantics/openAccess</dc:rights>
36. <dc:format>application/pdf</dc:format>
37. <dc:format>application/pdf</dc:format>
38. <dc:publisher>Universitat Ramon Llull</dc:publisher>
39. <dc:source>TDX (Tesis Doctorals en Xarxa)</dc:source>
</oai_dc:dc>

dim

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<dim:dim schemaLocation="http://www.dspace.org/xmlns/dspace/dim http://www.dspace.org/schema/dim.xsd">
1. <dim:field element="contributor" mdschema="dc">Universitat Ramon Llull. La Salle</dim:field>
2. <dim:field authority="4fc25bd9-08ed-477f-87cc-518859a715fe" confidence="-1" element="contributor" mdschema="dc" qualifier="author">Farguell Matesanz, Enric</dim:field>
3. <dim:field element="contributor" mdschema="dc" qualifier="authoremail">efarguell@hotmail.com</dim:field>
4. <dim:field element="contributor" mdschema="dc" qualifier="authoremailshow">true</dim:field>
5. <dim:field authority="5343f741-b56e-4af4-bb52-917088ada990" confidence="-1" element="contributor" mdschema="dc" qualifier="director">Mazzanti Castrillejo, Ferran</dim:field>
6. <dim:field authority="e34891b5-6fc4-4b9d-91e9-3f7bacad7b14" confidence="-1" element="contributor" mdschema="dc" qualifier="tutor">Garriga Berga, Carles</dim:field>
7. <dim:field element="date" mdschema="dc" qualifier="accessioned">2011-04-12T18:37:12Z</dim:field>
8. <dim:field element="date" mdschema="dc" qualifier="available">2011-01-24</dim:field>
9. <dim:field element="date" mdschema="dc" qualifier="issued">2011-01-20</dim:field>
10. <dim:field element="date" mdschema="dc" qualifier="submitted">2011-01-24</dim:field>
11. <dim:field element="identifier" mdschema="dc" qualifier="uri">http://www.tdx.cat/TDX-0124111-175646</dim:field>
12. <dim:field element="identifier" mdschema="dc" qualifier="uri">http://hdl.handle.net/10803/9155</dim:field>
13. <dim:field element="identifier" mdschema="dc" qualifier="dl">B.5718-2011</dim:field>
14. <dim:field element="description" lang="cat" mdschema="dc" qualifier="abstract">La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</dim:field>
15. <dim:field element="description" lang="spa" mdschema="dc" qualifier="abstract">La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</dim:field>
16. <dim:field element="description" lang="eng" mdschema="dc" qualifier="abstract">The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</dim:field>
17. <dim:field element="format" mdschema="dc" qualifier="mimetype">application/pdf</dim:field>
18. <dim:field element="language" mdschema="dc" qualifier="iso">eng</dim:field>
19. <dim:field element="publisher" mdschema="dc">Universitat Ramon Llull</dim:field>
20. <dim:field element="rights" mdschema="dc" qualifier="license">ADVERTIMENT. L'accés als continguts d'aquesta tesi doctoral i la seva utilització ha de respectar els drets de la persona autora. Pot ser utilitzada per a consulta o estudi personal, així com en activitats o materials d'investigació i docència en els termes establerts a l'art. 32 del Text Refós de la Llei de Propietat Intel·lectual (RDL 1/1996). Per altres utilitzacions es requereix l'autorització prèvia i expressa de la persona autora. En qualsevol cas, en la utilització dels seus continguts caldrà indicar de forma clara el nom i cognoms de la persona autora i el títol de la tesi doctoral. No s'autoritza la seva reproducció o altres formes d'explotació efectuades amb finalitats de lucre ni la seva comunicació pública des d'un lloc aliè al servei TDX. Tampoc s'autoritza la presentació del seu contingut en una finestra o marc aliè a TDX (framing). Aquesta reserva de drets afecta tant als continguts de la tesi com als seus resums i índexs.</dim:field>
21. <dim:field element="rights" lang="cat" mdschema="dc" qualifier="accessLevel">info:eu-repo/semantics/openAccess</dim:field>
22. <dim:field element="source" mdschema="dc">TDX (Tesis Doctorals en Xarxa)</dim:field>
23. <dim:field element="subject" mdschema="dc">Artificial Neural Networks</dim:field>
24. <dim:field element="subject" mdschema="dc">Decimation</dim:field>
25. <dim:field element="subject" mdschema="dc">Boltzmann Machines</dim:field>
26. <dim:field element="subject" mdschema="dc">Artificial Intelligence</dim:field>
27. <dim:field element="subject" mdschema="dc">Redes Neuronales Artificiales</dim:field>
28. <dim:field element="subject" mdschema="dc">Decimación</dim:field>
29. <dim:field element="subject" mdschema="dc">Máquinas de Boltzmann</dim:field>
30. <dim:field element="subject" mdschema="dc">Inteligencia artificial</dim:field>
31. <dim:field element="subject" mdschema="dc">Xarxes Neuronals Artificials</dim:field>
32. <dim:field element="subject" mdschema="dc">Decimació</dim:field>
33. <dim:field element="subject" mdschema="dc">Màquines de Boltzmann</dim:field>
34. <dim:field element="subject" mdschema="dc">Intel·ligència artificial</dim:field>
35. <dim:field element="subject" mdschema="dc" qualifier="other">Les TIC i la seva gestió</dim:field>
36. <dim:field element="subject" lang="cat" mdschema="dc" qualifier="udc">51</dim:field>
37. <dim:field element="subject" lang="cat" mdschema="dc" qualifier="udc">62</dim:field>
38. <dim:field element="title" mdschema="dc">A new approach to Decimation in High Order Boltzmann Machines</dim:field>
39. <dim:field element="type" mdschema="dc">info:eu-repo/semantics/doctoralThesis</dim:field>
40. <dim:field element="type" mdschema="dc">info:eu-repo/semantics/publishedVersion</dim:field>
</dim:dim>

etdms

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<thesis schemaLocation="http://www.ndltd.org/standards/metadata/etdms/1.0/ http://www.ndltd.org/standards/metadata/etdms/1.0/etdms.xsd">
1. <title>A new approach to Decimation in High Order Boltzmann Machines</title>
2. <creator>Farguell Matesanz, Enric</creator>
3. <contributor>efarguell@hotmail.com</contributor>
4. <contributor>true</contributor>
5. <contributor>Mazzanti Castrillejo, Ferran</contributor>
6. <contributor>Garriga Berga, Carles</contributor>
7. <subject>Artificial Neural Networks</subject>
8. <subject>Decimation</subject>
9. <subject>Boltzmann Machines</subject>
10. <subject>Artificial Intelligence</subject>
11. <subject>Redes Neuronales Artificiales</subject>
12. <subject>Decimación</subject>
13. <subject>Máquinas de Boltzmann</subject>
14. <subject>Inteligencia artificial</subject>
15. <subject>Xarxes Neuronals Artificials</subject>
16. <subject>Decimació</subject>
17. <subject>Màquines de Boltzmann</subject>
18. <subject>Intel·ligència artificial</subject>
19. <description>La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</description>
20. <description>La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</description>
21. <description>The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</description>
22. <date>2011-04-12</date>
23. <date>2011-01-24</date>
24. <date>2011-01-20</date>
25. <date>2011-01-24</date>
26. <type>info:eu-repo/semantics/doctoralThesis</type>
27. <type>info:eu-repo/semantics/publishedVersion</type>
28. <identifier>http://www.tdx.cat/TDX-0124111-175646</identifier>
29. <identifier>http://hdl.handle.net/10803/9155</identifier>
30. <identifier>B.5718-2011</identifier>
31. <language>eng</language>
32. <rights>ADVERTIMENT. L'accés als continguts d'aquesta tesi doctoral i la seva utilització ha de respectar els drets de la persona autora. Pot ser utilitzada per a consulta o estudi personal, així com en activitats o materials d'investigació i docència en els termes establerts a l'art. 32 del Text Refós de la Llei de Propietat Intel·lectual (RDL 1/1996). Per altres utilitzacions es requereix l'autorització prèvia i expressa de la persona autora. En qualsevol cas, en la utilització dels seus continguts caldrà indicar de forma clara el nom i cognoms de la persona autora i el títol de la tesi doctoral. No s'autoritza la seva reproducció o altres formes d'explotació efectuades amb finalitats de lucre ni la seva comunicació pública des d'un lloc aliè al servei TDX. Tampoc s'autoritza la presentació del seu contingut en una finestra o marc aliè a TDX (framing). Aquesta reserva de drets afecta tant als continguts de la tesi com als seus resums i índexs.</rights>
33. <rights>info:eu-repo/semantics/openAccess</rights>
34. <publisher>Universitat Ramon Llull</publisher>
35. <source>TDX (Tesis Doctorals en Xarxa)</source>
</thesis>

marc

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<record schemaLocation="http://www.loc.gov/MARC21/slim http://www.loc.gov/standards/marcxml/schema/MARC21slim.xsd">
1. <leader>00925njm 22002777a 4500</leader>
2. <datafield ind1=" " ind2=" " tag="042">
 1. <subfield code="a">dc</subfield>
 </datafield>
3. <datafield ind1=" " ind2=" " tag="720">
 1. <subfield code="a">Farguell Matesanz, Enric</subfield>
 2. <subfield code="e">author</subfield>
 </datafield>
4. <datafield ind1=" " ind2=" " tag="260">
 1. <subfield code="c">2011-01-20</subfield>
 </datafield>
5. <datafield ind1=" " ind2=" " tag="520">
 1. <subfield code="a">La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</subfield>
 </datafield>
6. <datafield ind1=" " ind2=" " tag="520">
 1. <subfield code="a">La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</subfield>
 </datafield>
7. <datafield ind1=" " ind2=" " tag="520">
 1. <subfield code="a">The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</subfield>
 </datafield>
8. <datafield ind1="8" ind2=" " tag="024">
 1. <subfield code="a">http://www.tdx.cat/TDX-0124111-175646</subfield>
 </datafield>
9. <datafield ind1="8" ind2=" " tag="024">
 1. <subfield code="a">http://hdl.handle.net/10803/9155</subfield>
 </datafield>
10. <datafield ind1="8" ind2=" " tag="024">
 1. <subfield code="a">B.5718-2011</subfield>
 </datafield>
11. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Artificial Neural Networks</subfield>
 </datafield>
12. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Decimation</subfield>
 </datafield>
13. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Boltzmann Machines</subfield>
 </datafield>
14. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Artificial Intelligence</subfield>
 </datafield>
15. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Redes Neuronales Artificiales</subfield>
 </datafield>
16. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Decimación</subfield>
 </datafield>
17. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Máquinas de Boltzmann</subfield>
 </datafield>
18. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Inteligencia artificial</subfield>
 </datafield>
19. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Xarxes Neuronals Artificials</subfield>
 </datafield>
20. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Decimació</subfield>
 </datafield>
21. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Màquines de Boltzmann</subfield>
 </datafield>
22. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Intel·ligència artificial</subfield>
 </datafield>
23. <datafield ind1="0" ind2="0" tag="245">
 1. <subfield code="a">A new approach to Decimation in High Order Boltzmann Machines</subfield>
 </datafield>
</record>

marc_ccuc

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<record schemaLocation="http://www.loc.gov/MARC21/slim http://www.loc.gov/standards/marcxml/schema/MARC21slim.xsd">
1. <leader>nam a 5i 4500</leader>
2. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Artificial Neural Networks</subfield>
 </datafield>
3. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Decimation</subfield>
 </datafield>
4. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Boltzmann Machines</subfield>
 </datafield>
5. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Artificial Intelligence</subfield>
 </datafield>
6. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Redes Neuronales Artificiales</subfield>
 </datafield>
7. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Decimación</subfield>
 </datafield>
8. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Máquinas de Boltzmann</subfield>
 </datafield>
9. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Inteligencia artificial</subfield>
 </datafield>
10. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Xarxes Neuronals Artificials</subfield>
 </datafield>
11. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Decimació</subfield>
 </datafield>
12. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Màquines de Boltzmann</subfield>
 </datafield>
13. <datafield ind1=" " ind2=" " tag="653">
 1. <subfield code="a">Intel·ligència artificial</subfield>
 </datafield>
14. <datafield ind1="1" ind2="0" tag="245">
 1. <subfield code="a">A new approach to Decimation in High Order Boltzmann Machines</subfield>
 </datafield>
15. <datafield ind1=" " ind2="1" tag="264">
 1. <subfield code="a">[Barcelona] :</subfield>
 2. <subfield code="b">Universitat Ramon Llull,</subfield>
 3. <subfield code="c">2011</subfield>
 </datafield>
16. <datafield ind1="4" ind2="0" tag="856">
 1. <subfield code="z">Accés lliure</subfield>
 2. <subfield code="u">http://hdl.handle.net/10803/9155</subfield>
 </datafield>
17. <controlfield tag="007">cr |||||||||||</controlfield>
18. <controlfield tag="008">AAMMDDs2011 sp ||||fsm||||0|| 0 eng|c</controlfield>
19. <datafield ind1="1" ind2=" " tag="100">
 1. <subfield code="a">Farguell Matesanz, Enric,</subfield>
 2. <subfield code="e">autor</subfield>
 </datafield>
20. <datafield ind1=" " ind2=" " tag="502">
 1. <subfield code="g">Tesi</subfield>
 2. <subfield code="b">Doctorat</subfield>
 3. <subfield code="c">Universitat Ramon Llull. La Salle</subfield>
 4. <subfield code="d">2011</subfield>
 </datafield>
21. <datafield ind1="2" ind2=" " tag="710">
 1. <subfield code="a">Universitat Ramon Llull. La Salle</subfield>
 </datafield>
22. <datafield ind1=" " ind2="4" tag="655">
 1. <subfield code="a">Tesis i dissertacions electròniques</subfield>
 </datafield>
23. <datafield ind1="1" ind2=" " tag="700">
 1. <subfield code="a">Mazzanti Castrillejo, Ferran,</subfield>
 2. <subfield code="e">supervisor acadèmic</subfield>
 </datafield>
24. <datafield ind1="1" ind2=" " tag="700">
 1. <subfield code="a">Garriga Berga, Carles,</subfield>
 2. <subfield code="e">supervisor acadèmic</subfield>
 </datafield>
25. <datafield ind1="0" ind2=" " tag="730">
 1. <subfield code="a">TDX</subfield>
 </datafield>
26. <datafield ind1=" " ind2=" " tag="520">
 1. <subfield code="a">La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</subfield>
 </datafield>
27. <datafield ind1=" " ind2=" " tag="998">
 1. <subfield code="a">u71</subfield>
 </datafield>
28. <datafield ind1=" " ind2=" " tag="040">
 1. <subfield code="a">ES-BaCBU</subfield>
 2. <subfield code="b">cat</subfield>
 3. <subfield code="e">rda</subfield>
 4. <subfield code="c">ES-BaCBU</subfield>
 </datafield>
29. <datafield ind1=" " ind2=" " tag="336">
 1. <subfield code="a">text</subfield>
 2. <subfield code="b">txt</subfield>
 3. <subfield code="2">rdacontent</subfield>
 </datafield>
30. <datafield ind1=" " ind2=" " tag="337">
 1. <subfield code="a">informàtic</subfield>
 2. <subfield code="b">c</subfield>
 3. <subfield code="2">rdamedia</subfield>
 </datafield>
31. <datafield ind1=" " ind2=" " tag="338">
 1. <subfield code="a">recurs en línia</subfield>
 2. <subfield code="b">cr</subfield>
 3. <subfield code="2">rdacarrier</subfield>
 </datafield>
</record>

mets

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<mets ID=" DSpace_ITEM_10803-9155" OBJID=" hdl:10803/9155" PROFILE="DSpace METS SIP Profile 1.0" TYPE="DSpace ITEM" schemaLocation="http://www.loc.gov/METS/ http://www.loc.gov/standards/mets/mets.xsd">
1. <metsHdr CREATEDATE="2024-09-05T17:52:14Z">
 1. <agent ROLE="CUSTODIAN" TYPE="ORGANIZATION">
 1. <name>TDX (Tesis Doctorals en Xarxa)</name>
 </agent>
 </metsHdr>
2. <dmdSec ID="DMD_10803_9155">
 1. <mdWrap MDTYPE="MODS">
 1. <xmlData schemaLocation="http://www.loc.gov/mods/v3 http://www.loc.gov/standards/mods/v3/mods-3-1.xsd">
 1. <mods:mods schemaLocation="http://www.loc.gov/mods/v3 http://www.loc.gov/standards/mods/v3/mods-3-1.xsd">
 <mods:name>
 <mods:role>
 <mods:roleTerm type="text">author</mods:roleTerm>
 </mods:role>
 <mods:namePart>Farguell Matesanz, Enric</mods:namePart>
 </mods:name>
 <mods:name>
 <mods:role>
 <mods:roleTerm type="text">authoremail</mods:roleTerm>
 </mods:role>
 <mods:namePart>efarguell@hotmail.com</mods:namePart>
 </mods:name>
 <mods:name>
 <mods:role>
 <mods:roleTerm type="text">authoremailshow</mods:roleTerm>
 </mods:role>
 <mods:namePart>true</mods:namePart>
 </mods:name>
 <mods:name>
 <mods:role>
 <mods:roleTerm type="text">director</mods:roleTerm>
 </mods:role>
 <mods:namePart>Mazzanti Castrillejo, Ferran</mods:namePart>
 </mods:name>
 <mods:name>
 <mods:role>
 <mods:roleTerm type="text">tutor</mods:roleTerm>
 </mods:role>
 <mods:namePart>Garriga Berga, Carles</mods:namePart>
 </mods:name>
 <mods:extension>
 <mods:dateAccessioned encoding="iso8601">2011-04-12T18:37:12Z</mods:dateAccessioned>
 </mods:extension>
 <mods:extension>
 <mods:dateAvailable encoding="iso8601">2011-01-24</mods:dateAvailable>
 </mods:extension>
 <mods:originInfo>
 <mods:dateIssued encoding="iso8601">2011-01-20</mods:dateIssued>
 </mods:originInfo>
 <mods:identifier type="uri">http://www.tdx.cat/TDX-0124111-175646http://hdl.handle.net/10803/9155</mods:identifier>
 <mods:identifier type="dl">B.5718-2011</mods:identifier>
 <mods:abstract>La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</mods:abstract>
 <mods:abstract>La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</mods:abstract>
 <mods:abstract>The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</mods:abstract>
 <mods:language>
 <mods:languageTerm authority="rfc3066">eng</mods:languageTerm>
 </mods:language>
 <mods:accessCondition type="useAndReproduction" />
 <mods:subject>
 <mods:topic>Artificial Neural Networks</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Decimation</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Boltzmann Machines</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Artificial Intelligence</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Redes Neuronales Artificiales</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Decimación</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Máquinas de Boltzmann</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Inteligencia artificial</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Xarxes Neuronals Artificials</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Decimació</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Màquines de Boltzmann</mods:topic>
 </mods:subject>
 <mods:subject>
 <mods:topic>Intel·ligència artificial</mods:topic>
 </mods:subject>
 <mods:titleInfo>
 <mods:title>A new approach to Decimation in High Order Boltzmann Machines</mods:title>
 </mods:titleInfo>
 <mods:genre>info:eu-repo/semantics/doctoralThesis info:eu-repo/semantics/publishedVersion</mods:genre>
 </mods:mods>
 </xmlData>
 </mdWrap>
 </dmdSec>
3. <amdSec ID="FO_10803_9155_1">
 1. <techMD ID="TECH_O_10803_9155_1">
 1. <mdWrap MDTYPE="PREMIS">
 1. <xmlData schemaLocation="http://www.loc.gov/standards/premis http://www.loc.gov/standards/premis/PREMIS-v1-0.xsd">
 <premis:premis>
 <premis:object>
 <premis:objectIdentifier>
 <premis:objectIdentifierType>URL</premis:objectIdentifierType>
 <premis:objectIdentifierValue>https://www.tdx.cat/bitstream/10803/9155/1/EFarguellPhD_MemoriaTDX.pdf</premis:objectIdentifierValue>
 </premis:objectIdentifier>
 <premis:objectCategory>File</premis:objectCategory>
 <premis:objectCharacteristics>
 <premis:fixity>
 <premis:messageDigestAlgorithm>MD5</premis:messageDigestAlgorithm>
 <premis:messageDigest>efacff8844310d7f57947e3465c6b642</premis:messageDigest>
 </premis:fixity>
 <premis:size>1526033</premis:size>
 <premis:format>
 <premis:formatDesignation>
 <premis:formatName>application/pdf</premis:formatName>
 </premis:formatDesignation>
 </premis:format>
 </premis:objectCharacteristics>
 <premis:originalName>EFarguellPhD_MemoriaTDX.pdf</premis:originalName>
 </premis:object>
 </premis:premis>
 </xmlData>
 </mdWrap>
 </techMD>
 </amdSec>
4. <amdSec ID="FT_10803_9155_2">
 1. <techMD ID="TECH_T_10803_9155_2">
 1. <mdWrap MDTYPE="PREMIS">
 1. <xmlData schemaLocation="http://www.loc.gov/standards/premis http://www.loc.gov/standards/premis/PREMIS-v1-0.xsd">
 <premis:premis>
 <premis:object>
 <premis:objectIdentifier>
 <premis:objectIdentifierType>URL</premis:objectIdentifierType>
 <premis:objectIdentifierValue>https://www.tdx.cat/bitstream/10803/9155/2/EFarguellPhD_MemoriaTDX.pdf.txt</premis:objectIdentifierValue>
 </premis:objectIdentifier>
 <premis:objectCategory>File</premis:objectCategory>
 <premis:objectCharacteristics>
 <premis:fixity>
 <premis:messageDigestAlgorithm>MD5</premis:messageDigestAlgorithm>
 <premis:messageDigest>5986555900bc914c8e802dfce1c93d69</premis:messageDigest>
 </premis:fixity>
 <premis:size>341412</premis:size>
 <premis:format>
 <premis:formatDesignation>
 <premis:formatName>text/plain</premis:formatName>
 </premis:formatDesignation>
 </premis:format>
 </premis:objectCharacteristics>
 <premis:originalName>EFarguellPhD_MemoriaTDX.pdf.txt</premis:originalName>
 </premis:object>
 </premis:premis>
 </xmlData>
 </mdWrap>
 </techMD>
 </amdSec>
5. <fileSec>
 1. <fileGrp USE="ORIGINAL">
 1. <file ADMID="FO_10803_9155_1" CHECKSUM="efacff8844310d7f57947e3465c6b642" CHECKSUMTYPE="MD5" GROUPID="GROUP_BITSTREAM_10803_9155_1" ID="BITSTREAM_ORIGINAL_10803_9155_1" MIMETYPE="application/pdf" SEQ="1" SIZE="1526033">
 1. <FLocat LOCTYPE="URL" href="https://www.tdx.cat/bitstream/10803/9155/1/EFarguellPhD_MemoriaTDX.pdf" type="simple" />
 </file>
 </fileGrp>
 2. <fileGrp USE="TEXT">
 1. <file ADMID="FT_10803_9155_2" CHECKSUM="5986555900bc914c8e802dfce1c93d69" CHECKSUMTYPE="MD5" GROUPID="GROUP_BITSTREAM_10803_9155_2" ID="BITSTREAM_TEXT_10803_9155_2" MIMETYPE="text/plain" SEQ="2" SIZE="341412">
 1. <FLocat LOCTYPE="URL" href="https://www.tdx.cat/bitstream/10803/9155/2/EFarguellPhD_MemoriaTDX.pdf.txt" type="simple" />
 </file>
 </fileGrp>
 </fileSec>
6. <structMap LABEL="DSpace Object" TYPE="LOGICAL">
 1. <div ADMID="DMD_10803_9155" TYPE="DSpace Object Contents">
 1. <div TYPE="DSpace BITSTREAM">
 1. <fptr FILEID="BITSTREAM_ORIGINAL_10803_9155_1" />
 </div>
 </div>
 </structMap>
</mets>

mods

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<mods:mods schemaLocation="http://www.loc.gov/mods/v3 http://www.loc.gov/standards/mods/v3/mods-3-1.xsd">
1. <mods:name>
 1. <mods:namePart>Farguell Matesanz, Enric</mods:namePart>
 </mods:name>
2. <mods:extension>
 1. <mods:dateAvailable encoding="iso8601">2011-04-12T18:37:12Z</mods:dateAvailable>
 </mods:extension>
3. <mods:extension>
 1. <mods:dateAccessioned encoding="iso8601">2011-01-24</mods:dateAccessioned>
 </mods:extension>
4. <mods:originInfo>
 1. <mods:dateIssued encoding="iso8601">2011-01-20</mods:dateIssued>
 </mods:originInfo>
5. <mods:identifier type="uri">http://www.tdx.cat/TDX-0124111-175646</mods:identifier>
6. <mods:identifier type="uri">http://hdl.handle.net/10803/9155</mods:identifier>
7. <mods:identifier type="dl">B.5718-2011</mods:identifier>
8. <mods:abstract>La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</mods:abstract>
9. <mods:abstract>La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</mods:abstract>
10. <mods:abstract>The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</mods:abstract>
11. <mods:language>
 1. <mods:languageTerm>eng</mods:languageTerm>
 </mods:language>
12. <mods:accessCondition type="useAndReproduction">ADVERTIMENT. L'accés als continguts d'aquesta tesi doctoral i la seva utilització ha de respectar els drets de la persona autora. Pot ser utilitzada per a consulta o estudi personal, així com en activitats o materials d'investigació i docència en els termes establerts a l'art. 32 del Text Refós de la Llei de Propietat Intel·lectual (RDL 1/1996). Per altres utilitzacions es requereix l'autorització prèvia i expressa de la persona autora. En qualsevol cas, en la utilització dels seus continguts caldrà indicar de forma clara el nom i cognoms de la persona autora i el títol de la tesi doctoral. No s'autoritza la seva reproducció o altres formes d'explotació efectuades amb finalitats de lucre ni la seva comunicació pública des d'un lloc aliè al servei TDX. Tampoc s'autoritza la presentació del seu contingut en una finestra o marc aliè a TDX (framing). Aquesta reserva de drets afecta tant als continguts de la tesi com als seus resums i índexs.</mods:accessCondition>
13. <mods:accessCondition type="useAndReproduction">info:eu-repo/semantics/openAccess</mods:accessCondition>
14. <mods:subject>
 1. <mods:topic>Artificial Neural Networks</mods:topic>
 </mods:subject>
15. <mods:subject>
 1. <mods:topic>Decimation</mods:topic>
 </mods:subject>
16. <mods:subject>
 1. <mods:topic>Boltzmann Machines</mods:topic>
 </mods:subject>
17. <mods:subject>
 1. <mods:topic>Artificial Intelligence</mods:topic>
 </mods:subject>
18. <mods:subject>
 1. <mods:topic>Redes Neuronales Artificiales</mods:topic>
 </mods:subject>
19. <mods:subject>
 1. <mods:topic>Decimación</mods:topic>
 </mods:subject>
20. <mods:subject>
 1. <mods:topic>Máquinas de Boltzmann</mods:topic>
 </mods:subject>
21. <mods:subject>
 1. <mods:topic>Inteligencia artificial</mods:topic>
 </mods:subject>
22. <mods:subject>
 1. <mods:topic>Xarxes Neuronals Artificials</mods:topic>
 </mods:subject>
23. <mods:subject>
 1. <mods:topic>Decimació</mods:topic>
 </mods:subject>
24. <mods:subject>
 1. <mods:topic>Màquines de Boltzmann</mods:topic>
 </mods:subject>
25. <mods:subject>
 1. <mods:topic>Intel·ligència artificial</mods:topic>
 </mods:subject>
26. <mods:titleInfo>
 1. <mods:title>A new approach to Decimation in High Order Boltzmann Machines</mods:title>
 </mods:titleInfo>
27. <mods:genre>info:eu-repo/semantics/doctoralThesis</mods:genre>
28. <mods:genre>info:eu-repo/semantics/publishedVersion</mods:genre>
</mods:mods>

oaire

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<oaire:record schemaLocation="http://namespaceopenaire.eu/schema/oaire/">
1. <dc:title>A new approach to Decimation in High Order Boltzmann Machines</dc:title>
2. <datacite:creator>
 1. <datacite:creatorName>Farguell Matesanz, Enric</datacite:creatorName>
 </datacite:creator>
3. <datacite:contributor>efarguell@hotmail.com</datacite:contributor>
4. <datacite:contributor>true</datacite:contributor>
5. <datacite:contributor>Mazzanti Castrillejo, Ferran</datacite:contributor>
6. <datacite:contributor>Garriga Berga, Carles</datacite:contributor>
7. <datacite:contributor>Universitat Ramon Llull. La Salle</datacite:contributor>
8. <dc:subject>Artificial Neural Networks</dc:subject>
9. <dc:subject>Decimation</dc:subject>
10. <dc:subject>Boltzmann Machines</dc:subject>
11. <dc:subject>Artificial Intelligence</dc:subject>
12. <dc:subject>Redes Neuronales Artificiales</dc:subject>
13. <dc:subject>Decimación</dc:subject>
14. <dc:subject>Máquinas de Boltzmann</dc:subject>
15. <dc:subject>Inteligencia artificial</dc:subject>
16. <dc:subject>Xarxes Neuronals Artificials</dc:subject>
17. <dc:subject>Decimació</dc:subject>
18. <dc:subject>Màquines de Boltzmann</dc:subject>
19. <dc:subject>Intel·ligència artificial</dc:subject>
20. <dc:subject>Les TIC i la seva gestió</dc:subject>
21. <dc:subject>51</dc:subject>
22. <dc:subject>62</dc:subject>
23. <dc:description>La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</dc:description>
24. <dc:description>La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</dc:description>
25. <dc:description>The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</dc:description>
26. <dc:date>2011-04-12T18:37:12Z</dc:date>
27. <dc:date>2011-01-24</dc:date>
28. <dc:date>2011-01-20</dc:date>
29. <dc:date>2011-01-24</dc:date>
30. <dc:type>info:eu-repo/semantics/doctoralThesis</dc:type>
31. <dc:type>info:eu-repo/semantics/publishedVersion</dc:type>
32. <datacite:alternateIdentifier>http://www.tdx.cat/TDX-0124111-175646</datacite:alternateIdentifier>
33. <datacite:alternateIdentifier>http://hdl.handle.net/10803/9155</datacite:alternateIdentifier>
34. <datacite:alternateIdentifier>B.5718-2011</datacite:alternateIdentifier>
35. <dc:language>eng</dc:language>
36. <dc:rights>ADVERTIMENT. L'accés als continguts d'aquesta tesi doctoral i la seva utilització ha de respectar els drets de la persona autora. Pot ser utilitzada per a consulta o estudi personal, així com en activitats o materials d'investigació i docència en els termes establerts a l'art. 32 del Text Refós de la Llei de Propietat Intel·lectual (RDL 1/1996). Per altres utilitzacions es requereix l'autorització prèvia i expressa de la persona autora. En qualsevol cas, en la utilització dels seus continguts caldrà indicar de forma clara el nom i cognoms de la persona autora i el títol de la tesi doctoral. No s'autoritza la seva reproducció o altres formes d'explotació efectuades amb finalitats de lucre ni la seva comunicació pública des d'un lloc aliè al servei TDX. Tampoc s'autoritza la presentació del seu contingut en una finestra o marc aliè a TDX (framing). Aquesta reserva de drets afecta tant als continguts de la tesi com als seus resums i índexs.</dc:rights>
37. <dc:rights>info:eu-repo/semantics/openAccess</dc:rights>
38. <dc:format>application/pdf</dc:format>
39. <dc:format>application/pdf</dc:format>
40. <dc:publisher>Universitat Ramon Llull</dc:publisher>
41. <dc:source>TDX (Tesis Doctorals en Xarxa)</dc:source>
42. <oaire:file>https://www.tdx.cat/bitstream/10803/9155/1/EFarguellPhD_MemoriaTDX.pdf</oaire:file>
</oaire:record>

ore

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<atom:entry schemaLocation="http://www.w3.org/2005/Atom http://www.kbcafe.com/rss/atom.xsd.xml">
1. <atom:id>http://www.tdx.cat/TDX-0124111-175646/ore.xml</atom:id>
2. <atom:link href="http://www.tdx.cat/TDX-0124111-175646" rel="alternate" />
3. <atom:link href="http://www.tdx.cat/TDX-0124111-175646/ore.xml" rel="http://www.openarchives.org/ore/terms/describes" />
4. <atom:link href="http://www.tdx.cat/TDX-0124111-175646/ore.xml#atom" rel="self" type="application/atom+xml" />
5. <atom:published>2011-01-24</atom:published>
6. <atom:updated>2011-04-12T18:37:12Z</atom:updated>
7. <atom:source>
 1. <atom:generator>TDX (Tesis Doctorals en Xarxa)</atom:generator>
 </atom:source>
8. <atom:title>A new approach to Decimation in High Order Boltzmann Machines</atom:title>
9. <atom:author>
 1. <atom:name>Farguell Matesanz, Enric</atom:name>
 </atom:author>
10. <atom:category label="Aggregation" scheme="http://www.openarchives.org/ore/terms/" term="http://www.openarchives.org/ore/terms/Aggregation" />
11. <atom:category scheme="http://www.openarchives.org/ore/atom/modified" term="2011-04-12T18:37:12Z" />
12. <atom:category label="DSpace Item" scheme="http://www.dspace.org/objectModel/" term="DSpaceItem" />
13. <atom:link href="https://www.tdx.cat/bitstream/10803/9155/1/EFarguellPhD_MemoriaTDX.pdf" length="1526033" rel="http://www.openarchives.org/ore/terms/aggregates" title="EFarguellPhD_MemoriaTDX.pdf" type="application/pdf" />
14. <oreatom:triples>
 1. <rdf:Description about="http://www.tdx.cat/TDX-0124111-175646/ore.xml#atom">
 1. <rdf:type resource="http://www.dspace.org/objectModel/DSpaceItem" />
 2. <dcterms:modified>2011-04-12T18:37:12Z</dcterms:modified>
 </rdf:Description>
 2. <rdf:Description about="https://www.tdx.cat/bitstream/10803/9155/1/EFarguellPhD_MemoriaTDX.pdf">
 1. <rdf:type resource="http://www.dspace.org/objectModel/DSpaceBitstream" />
 2. <dcterms:description>ORIGINAL</dcterms:description>
 </rdf:Description>
 3. <rdf:Description about="https://www.tdx.cat/bitstream/10803/9155/2/EFarguellPhD_MemoriaTDX.pdf.txt">
 1. <rdf:type resource="http://www.dspace.org/objectModel/DSpaceBitstream" />
 2. <dcterms:description>TEXT</dcterms:description>
 </rdf:Description>
 4. <rdf:Description about="https://www.tdx.cat/bitstream/10803/9155/3/EFarguellPhD_MemoriaTDX.pdf.xml">
 1. <rdf:type resource="http://www.dspace.org/objectModel/DSpaceBitstream" />
 2. <dcterms:description>MEDIA_DOCUMENT</dcterms:description>
 </rdf:Description>
 </oreatom:triples>
</atom:entry>

qdc

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<qdc:qualifieddc schemaLocation="http://purl.org/dc/elements/1.1/ http://dublincore.org/schemas/xmls/qdc/2006/01/06/dc.xsd http://purl.org/dc/terms/ http://dublincore.org/schemas/xmls/qdc/2006/01/06/dcterms.xsd http://dspace.org/qualifieddc/ http://www.ukoln.ac.uk/metadata/dcmi/xmlschema/qualifieddc.xsd">
1. <dc:title>A new approach to Decimation in High Order Boltzmann Machines</dc:title>
2. <dc:creator>Farguell Matesanz, Enric</dc:creator>
3. <dc:contributor>Mazzanti Castrillejo, Ferran</dc:contributor>
4. <dc:contributor>Garriga Berga, Carles</dc:contributor>
5. <dc:subject>Artificial Neural Networks</dc:subject>
6. <dc:subject>Decimation</dc:subject>
7. <dc:subject>Boltzmann Machines</dc:subject>
8. <dc:subject>Artificial Intelligence</dc:subject>
9. <dc:subject>Redes Neuronales Artificiales</dc:subject>
10. <dc:subject>Decimación</dc:subject>
11. <dc:subject>Máquinas de Boltzmann</dc:subject>
12. <dc:subject>Inteligencia artificial</dc:subject>
13. <dc:subject>Xarxes Neuronals Artificials</dc:subject>
14. <dc:subject>Decimació</dc:subject>
15. <dc:subject>Màquines de Boltzmann</dc:subject>
16. <dc:subject>Intel·ligència artificial</dc:subject>
17. <dcterms:abstract>La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</dcterms:abstract>
18. <dcterms:abstract>La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</dcterms:abstract>
19. <dcterms:abstract>The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</dcterms:abstract>
20. <dcterms:dateAccepted>2011-01-24</dcterms:dateAccepted>
21. <dcterms:available>2011-01-24</dcterms:available>
22. <dcterms:created>2011-01-24</dcterms:created>
23. <dcterms:issued>2011-01-20</dcterms:issued>
24. <dc:type>info:eu-repo/semantics/doctoralThesis</dc:type>
25. <dc:type>info:eu-repo/semantics/publishedVersion</dc:type>
26. <dc:identifier>http://www.tdx.cat/TDX-0124111-175646</dc:identifier>
27. <dc:identifier>http://hdl.handle.net/10803/9155</dc:identifier>
28. <dc:identifier>B.5718-2011</dc:identifier>
29. <dc:language>eng</dc:language>
30. <dc:rights>ADVERTIMENT. L'accés als continguts d'aquesta tesi doctoral i la seva utilització ha de respectar els drets de la persona autora. Pot ser utilitzada per a consulta o estudi personal, així com en activitats o materials d'investigació i docència en els termes establerts a l'art. 32 del Text Refós de la Llei de Propietat Intel·lectual (RDL 1/1996). Per altres utilitzacions es requereix l'autorització prèvia i expressa de la persona autora. En qualsevol cas, en la utilització dels seus continguts caldrà indicar de forma clara el nom i cognoms de la persona autora i el títol de la tesi doctoral. No s'autoritza la seva reproducció o altres formes d'explotació efectuades amb finalitats de lucre ni la seva comunicació pública des d'un lloc aliè al servei TDX. Tampoc s'autoritza la presentació del seu contingut en una finestra o marc aliè a TDX (framing). Aquesta reserva de drets afecta tant als continguts de la tesi com als seus resums i índexs.</dc:rights>
31. <dc:rights>info:eu-repo/semantics/openAccess</dc:rights>
32. <dc:publisher>Universitat Ramon Llull</dc:publisher>
33. <dc:source>TDX (Tesis Doctorals en Xarxa)</dc:source>
</qdc:qualifieddc>

rdf

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<rdf:RDF schemaLocation="http://www.openarchives.org/OAI/2.0/rdf/ http://www.openarchives.org/OAI/2.0/rdf.xsd">
1. <ow:Publication about="oai:www.tdx.cat:10803/9155">
 1. <dc:title>A new approach to Decimation in High Order Boltzmann Machines</dc:title>
 2. <dc:creator>Farguell Matesanz, Enric</dc:creator>
 3. <dc:contributor>efarguell@hotmail.com</dc:contributor>
 4. <dc:contributor>true</dc:contributor>
 5. <dc:contributor>Mazzanti Castrillejo, Ferran</dc:contributor>
 6. <dc:contributor>Garriga Berga, Carles</dc:contributor>
 7. <dc:subject>Artificial Neural Networks</dc:subject>
 8. <dc:subject>Decimation</dc:subject>
 9. <dc:subject>Boltzmann Machines</dc:subject>
 10. <dc:subject>Artificial Intelligence</dc:subject>
 11. <dc:subject>Redes Neuronales Artificiales</dc:subject>
 12. <dc:subject>Decimación</dc:subject>
 13. <dc:subject>Máquinas de Boltzmann</dc:subject>
 14. <dc:subject>Inteligencia artificial</dc:subject>
 15. <dc:subject>Xarxes Neuronals Artificials</dc:subject>
 16. <dc:subject>Decimació</dc:subject>
 17. <dc:subject>Màquines de Boltzmann</dc:subject>
 18. <dc:subject>Intel·ligència artificial</dc:subject>
 19. <dc:description>La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</dc:description>
 20. <dc:description>La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</dc:description>
 21. <dc:description>The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</dc:description>
 22. <dc:date>2011-04-12T18:37:12Z</dc:date>
 23. <dc:date>2011-01-24</dc:date>
 24. <dc:date>2011-01-20</dc:date>
 25. <dc:date>2011-01-24</dc:date>
 26. <dc:type>info:eu-repo/semantics/doctoralThesis</dc:type>
 27. <dc:type>info:eu-repo/semantics/publishedVersion</dc:type>
 28. <dc:identifier>http://www.tdx.cat/TDX-0124111-175646</dc:identifier>
 29. <dc:identifier>http://hdl.handle.net/10803/9155</dc:identifier>
 30. <dc:identifier>B.5718-2011</dc:identifier>
 31. <dc:language>eng</dc:language>
 32. <dc:rights>ADVERTIMENT. L'accés als continguts d'aquesta tesi doctoral i la seva utilització ha de respectar els drets de la persona autora. Pot ser utilitzada per a consulta o estudi personal, així com en activitats o materials d'investigació i docència en els termes establerts a l'art. 32 del Text Refós de la Llei de Propietat Intel·lectual (RDL 1/1996). Per altres utilitzacions es requereix l'autorització prèvia i expressa de la persona autora. En qualsevol cas, en la utilització dels seus continguts caldrà indicar de forma clara el nom i cognoms de la persona autora i el títol de la tesi doctoral. No s'autoritza la seva reproducció o altres formes d'explotació efectuades amb finalitats de lucre ni la seva comunicació pública des d'un lloc aliè al servei TDX. Tampoc s'autoritza la presentació del seu contingut en una finestra o marc aliè a TDX (framing). Aquesta reserva de drets afecta tant als continguts de la tesi com als seus resums i índexs.</dc:rights>
 33. <dc:rights>info:eu-repo/semantics/openAccess</dc:rights>
 34. <dc:publisher>Universitat Ramon Llull</dc:publisher>
 35. <dc:source>TDX (Tesis Doctorals en Xarxa)</dc:source>
 </ow:Publication>
</rdf:RDF>

uketd_dc

Descargar XML

<?xml version="1.0" encoding="UTF-8" ?>

<uketd_dc:uketddc schemaLocation="http://naca.central.cranfield.ac.uk/ethos-oai/2.0/ http://naca.central.cranfield.ac.uk/ethos-oai/2.0/uketd_dc.xsd">
1. <dc:title>A new approach to Decimation in High Order Boltzmann Machines</dc:title>
2. <dc:creator>Farguell Matesanz, Enric</dc:creator>
3. <dcterms:abstract>La Màquina de Boltzmann (MB) és una xarxa neuronal estocàstica amb l'habilitat tant d'aprendre com d'extrapolar distribucions de probabilitat. Malgrat això, mai ha arribat a ser tant emprada com d'altres models de xarxa neuronal, com ara el perceptró, degut a la complexitat tan del procés de simulació com d'aprenentatge: les quantitats que es necessiten al llarg del procés d'aprenentatge són normalment estimades mitjançant tècniques Monte Carlo (MC), a través de l'algorisme del Temprat Simulat (SA). Això ha portat a una situació on la MB és més ben aviat considerada o bé com una extensió de la xarxa de Hopfield o bé com una implementació paral·lela del SA. Malgrat aquesta relativa manca d'èxit, la comunitat científica de l'àmbit de les xarxes neuronals ha mantingut un cert interès amb el model. Una de les extensions més rellevants a la MB és la Màquina de Boltzmann d'Alt Ordre (HOBM), on els pesos poden connectar més de dues neurones simultàniament. Encara que les capacitats d'aprenentatge d'aquest model han estat analitzades per d'altres autors, no s'ha pogut establir una equivalència formal entre els pesos d'una MB i els pesos d'alt ordre de la HOBM. En aquest treball s'analitza l'equivalència entre una MB i una HOBM a través de l'extensió del mètode conegut com a decimació. Decimació és una eina emprada a física estadística que es pot també aplicar a cert tipus de MB, obtenint expressions analítiques per a calcular les correlacions necessàries per a dur a terme el procés d'aprenentatge. Per tant, la decimació evita l'ús del costós algorisme del SA. Malgrat això, en la seva forma original, la decimació podia tan sols ser aplicada a cert tipus de topologies molt poc densament connectades. La extensió que es defineix en aquest treball permet calcular aquests valors independentment de la topologia de la xarxa neuronal; aquest model es basa en afegir prou pesos d'alt ordre a una MB estàndard com per a assegurar que les equacions de la decimació es poden solucionar. Després, s'estableix una equivalència directa entre els pesos d'un model d'alt ordre, la distribució de probabilitat que pot aprendre i les matrius de Hadamard: les propietats d'aquestes matrius es poden emprar per a calcular fàcilment els pesos del sistema. Finalment, es defineix una MB estàndard amb una topologia específica que permet entendre millor la equivalència exacta entre unitats ocultes de la MB i els pesos d'alt ordre de la HOBM.</dcterms:abstract>
4. <dcterms:abstract>La Máquina de Boltzmann (MB) es una red neuronal estocástica con la habilidad de aprender y extrapolar distribuciones de probabilidad. Sin embargo, nunca ha llegado a ser tan popular como otros modelos de redes neuronals como, por ejemplo, el perceptrón. Esto es debido a la complejidad tanto del proceso de simulación como de aprendizaje: las cantidades que se necesitan a lo largo del proceso de aprendizaje se estiman mediante el uso de técnicas Monte Carlo (MC), a través del algoritmo del Temple Simulado (SA). En definitiva, la MB es generalmente considerada o bien una extensión de la red de Hopfield o bien como una implementación paralela del algoritmo del SA. Pese a esta relativa falta de éxito, la comunidad científica del ámbito de las redes neuronales ha mantenido un cierto interés en el modelo. Una importante extensión es la Màquina de Boltzmann de Alto Orden (HOBM), en la que los pesos pueden conectar más de dos neuronas a la vez. Pese a que este modelo ha sido analizado en profundidad por otros autores, todavía no se ha descrito una equivalencia formal entre los pesos de una MB i las conexiones de alto orden de una HOBM. En este trabajo se ha analizado la equivalencia entre una MB i una HOBM, a través de la extensión del método conocido como decimación. La decimación es una herramienta propia de la física estadística que también puede ser aplicada a ciertos modelos de MB, obteniendo expresiones analíticas para el cálculo de las cantidades necesarias en el algoritmo de aprendizaje. Por lo tanto, la decimación evita el alto coste computacional asociado al al uso del costoso algoritmo del SA. Pese a esto, en su forma original la decimación tan solo podía ser aplicada a ciertas topologías de MB, distinguidas por ser poco densamente conectadas. La extensión definida en este trabajo permite calcular estos valores independientemente de la topología de la red neuronal: este modelo se basa en añadir suficientes pesos de alto orden a una MB estándar como para asegurar que las ecuaciones de decimación pueden solucionarse. Más adelante, se establece una equivalencia directa entre los pesos de un modelo de alto orden, la distribución de probabilidad que puede aprender y las matrices tipo Hadamard. Las propiedades de este tipo de matrices se pueden usar para calcular fácilmente los pesos del sistema. Finalmente, se define una BM estándar con una topología específica que permite entender mejor la equivalencia exacta entre neuronas ocultas en la MB y los pesos de alto orden de la HOBM.</dcterms:abstract>
5. <dcterms:abstract>The Boltzmann Machine (BM) is a stochastic neural network with the ability of both learning and extrapolating probability distributions. However, it has never been as widely used as other neural networks such as the perceptron, due to the complexity of both the learning and recalling algorithms, and to the high computational cost required in the learning process: the quantities that are needed at the learning stage are usually estimated by Monte Carlo (MC) through the Simulated Annealing (SA) algorithm. This has led to a situation where the BM is rather considered as an evolution of the Hopfield Neural Network or as a parallel implementation of the Simulated Annealing algorithm. Despite this relative lack of success, the neural network community has continued to progress in the analysis of the dynamics of the model. One remarkable extension is the High Order Boltzmann Machine (HOBM), where weights can connect more than two neurons at a time. Although the learning capabilities of this model have already been discussed by other authors, a formal equivalence between the weights in a standard BM and the high order weights in a HOBM has not yet been established. We analyze this latter equivalence between a second order BM and a HOBM by proposing an extension of the method known as decimation. Decimation is a common tool in statistical physics that may be applied to some kind of BMs, that can be used to obtain analytical expressions for the n-unit correlation elements required in the learning process. In this way, decimation avoids using the time consuming Simulated Annealing algorithm. However, as it was first conceived, it could only deal with sparsely connected neural networks. The extension that we define in this thesis allows computing the same quantities irrespective of the topology of the network. This method is based on adding enough high order weights to a standard BM to guarantee that the system can be solved. Next, we establish a direct equivalence between the weights of a HOBM model, the probability distribution to be learnt and Hadamard matrices. The properties of these matrices can be used to easily calculate the value of the weights of the system. Finally, we define a standard BM with a very specific topology that helps us better understand the exact equivalence between hidden units in a BM and high order weights in a HOBM.</dcterms:abstract>
6. <uketdterms:institution>Universitat Ramon Llull</uketdterms:institution>
7. <dcterms:issued>2011-01-20</dcterms:issued>
8. <dc:type>info:eu-repo/semantics/doctoralThesis</dc:type>
9. <dc:type>info:eu-repo/semantics/publishedVersion</dc:type>
10. <dc:language type="dcterms:ISO639-2">eng</dc:language>
11. <dcterms:isReferencedBy>http://www.tdx.cat/TDX-0124111-175646</dcterms:isReferencedBy>
12. <dcterms:isReferencedBy>http://hdl.handle.net/10803/9155</dcterms:isReferencedBy>
13. <dc:identifier type="dcterms:URI">https://www.tdx.cat/bitstream/10803/9155/1/EFarguellPhD_MemoriaTDX.pdf</dc:identifier>
14. <uketdterms:checksum type="uketdterms:MD5">efacff8844310d7f57947e3465c6b642</uketdterms:checksum>
15. <dcterms:hasFormat>https://www.tdx.cat/bitstream/10803/9155/2/EFarguellPhD_MemoriaTDX.pdf.txt</dcterms:hasFormat>
16. <uketdterms:checksum type="uketdterms:MD5">5986555900bc914c8e802dfce1c93d69</uketdterms:checksum>
17. <dc:subject>Artificial Neural Networks</dc:subject>
18. <dc:subject>Decimation</dc:subject>
19. <dc:subject>Boltzmann Machines</dc:subject>
20. <dc:subject>Artificial Intelligence</dc:subject>
21. <dc:subject>Redes Neuronales Artificiales</dc:subject>
22. <dc:subject>Decimación</dc:subject>
23. <dc:subject>Máquinas de Boltzmann</dc:subject>
24. <dc:subject>Inteligencia artificial</dc:subject>
25. <dc:subject>Xarxes Neuronals Artificials</dc:subject>
26. <dc:subject>Decimació</dc:subject>
27. <dc:subject>Màquines de Boltzmann</dc:subject>
28. <dc:subject>Intel·ligència artificial</dc:subject>
29. <dc:subject>Les TIC i la seva gestió</dc:subject>
</uketd_dc:uketddc>

xoai

Descargar XML

Se ha omitido la presentación del registro por ser demasiado largo. Si lo desea, puede descargárselo en el enlace anterior.