¿Qué tipo de base matemática se necesita para aprender el aprendizaje automático?
De: Qiuzhen 2013-07-1113:44:22.
Soy un junior master y mi dirección de investigación es el aprendizaje automático. Al leer algunos libros de texto sobre aprendizaje automático, descubrí que el aprendizaje automático requiere una base matemática más avanzada.
Disculpe: ¿Qué tipo de base matemática se necesita para aprender el aprendizaje automático en general?
¿Se pueden utilizar en nuestra universidad cursos de matemáticas básicas como matemáticas avanzadas, álgebra lineal y teoría de la probabilidad?
Skynet 2013-07-12 15:30:26
Mira la dirección, pero cualquier dirección básicamente no es suficiente. Compensa tus defectos. Las matemáticas son un obstáculo, al igual que el aprendizaje automático. Es imposible que la gente luche en dos pozos al mismo tiempo.
Como la reacción de (3)
Skynet 2013-07-12 15:30:26
Mira la dirección, pero cualquier dirección básicamente no es suficiente. Compensa tus defectos. Las matemáticas son un obstáculo, al igual que el aprendizaje automático. Es imposible que la gente luche en dos pozos al mismo tiempo.
Como la reacción de (3)
Buscando la verdad 2013-07-12 16:07:20
Mira la dirección, pero cualquier dirección es básicamente no es suficiente. Compensa tus defectos. Las matemáticas son un obstáculo, al igual que el aprendizaje automático. La gente no puede ser igual...
Hmm, está bien.
Respuesta de elogio
Francia 2065438
Bien dicho. Me gusta.
Respuesta de elogio
Opera 2014-06-09 15:43:56
Definitivamente se requieren matemáticas avanzadas, álgebra lineal y teoría de la probabilidad. Puede que haya algo más además de ellos.
Respuesta de elogio
Sr. (Longevidad) 2014-06-09 20:51:39
¿Qué pasa con los campos de la solicitud?
Respuesta de elogio
Bubble Bobble 2014-07-03 17:16:37
Los puntos específicos deben ser cálculo, teoría de la probabilidad, álgebra lineal y aleatoriedad. Distribución, optimización convexa.
Respuesta de elogio
Búsqueda de la verdad +04-07-06 10: 46: 35
Los puntos específicos deben ser cálculo, teoría de la probabilidad, álgebra lineal y aleatoriedad. Distribución, optimización convexa de Bubble Bobble.
Gracias
-
Tema de Zhihu:
Si el aprendizaje automático es solo para aplicaciones, entonces ¿cuántas matemáticas...? Por ejemplo, variedades diferenciales, topología algebraica, funcionales, etc., ¿entiendes?
"Solo para fines de solicitud" es un poco vago. . A primera vista, el tema parecía estar destinado a ser utilizado en empresas, pero luego surgieron una gran cantidad de cursos que parecían más académicos. . Las emociones mencionadas por los estudiosos anteriores son más académicas. Permítanme agregar algo de información sobre la industria.
En general, prefiero la respuesta del usuario anónimo. Si el aprendizaje automático es solo para fines de aplicación, entonces, ¿cuántas matemáticas... como variedades diferenciales, topología algebraica, funcionales, etc., entiende? -Respuesta de un usuario anónimo
Antes de pensar en esta pregunta, primero debemos averiguar para qué te paga la empresa por hacer. Mi experiencia es que hay dos situaciones. Primero, la empresa no tenía negocios antes y ahora necesita ejecutar algunas cosas de aprendizaje automático (desde cero). En segundo lugar, la empresa tenía una cierta base cuando usted asumió el control y ahora necesita ajustar su desempeño (de pobre a excelente). El primero no requiere ninguna matemática en absoluto. Es la mejor manera de construir el sistema utilizando primero los módulos/códigos de otras personas. Esto último depende del problema específico y en la mayoría de los casos no requiere matemáticas.
Comenzando desde cero, por ejemplo, una vez puse la deduplicación en Facebook, lo que probablemente significó que tenía que morir. Hay demasiados lugares para registrarse, por lo que debe determinar qué lugares están duplicados. Al igual que Zhihu, hay muchas preguntas repetidas. ¿Cómo se pueden identificar y reorientar estos problemas? Este problema no es difícil desde la perspectiva del aprendizaje automático y existe mucho trabajo. Pero la compañía está más preocupada por cómo construir cualquier sistema con las docenas de terabytes de datos de Facebook. Entonces, la mayor parte de nuestro tiempo no lo dedicamos a evaluar qué modelo de aprendizaje automático es mejor, cuál es la naturaleza de esta variedad, cuál es el límite inferior de ese sistema, sino que Hadoop primero usa miles de núcleos para extraer características. Después de las características, la madre encuentra aleatoriamente el clasificador de fondo.
¿Digo tonterías? Esta situación no tiene nada que ver con las matemáticas.
También participé en la puesta a punto de este proyecto de mejor a mejor. La experiencia básica es que no importa cuán complejas y exquisitas sean las propiedades matemáticas del clasificador y el modelo, la clave aún depende de las características. Obtenga una función eficaz y la precisión aumentará. Básicamente, no hay diferencia entre modificar JB a ciegas y ajustar varios clasificadores. . (Por supuesto, excepto por los cambios cualitativos en el modelo de aprendizaje profundo, pero esto no tiene nada que ver con personas que no se dedican a la investigación científica). Entonces hay que preguntarse si las matemáticas son útiles. Se puede proponer basándose en las matemáticas, pero esta matriz especial es utilizada por personas que han pasado diez años afilando sus espadas en el mundo académico. Si utiliza Math Arch KPI en su empresa, nen lo eliminará en minutos. El rey de al lado ha recibido muchas bonificaciones de funciones nuevas, y aquí tienes que acabar con los productos funcionales. .
Por supuesto, sigue siendo útil en algunos lugares de investigación, como algunos departamentos de Google X, pero creo que sigue siendo académico.
En general, mi consejo es que, si quieres acudir a una empresa, no te preocupes por nada demasiado elevado. Aprenda bien álgebra lineal, estadística, optimización convexa y salga a jugar malas pasadas. Guardar la experiencia del sistema y los trucos sucios es el camino a seguir. Por supuesto, no estoy diciendo que no debas hacer matemáticas. Es solo que si va a una empresa, es más rentable dedicar el mismo tiempo a aprender la estructura del sistema informático y los métodos de pensamiento sistemático con la premisa de aprender la optimización estadística convexa de la generación de líneas.
Editado el 2015-04-09 35 comentarios. Gracias.
Esta es una aplicación del principio 80-20.
Siempre que se necesite el 20% del conocimiento del aprendizaje automático, se pueden lograr resultados satisfactorios en el 80% de las aplicaciones comerciales.
Pero si eres una empresa que lucha por la excelencia o una empresa que se centra en algoritmos de aprendizaje automático, es posible que tengas que invertir esfuerzos exponenciales para mejorar el rendimiento.
Sin ser invitado, cambié de las matemáticas a la ciencia de datos, que es el aprendizaje automático con fines de aplicación. Durante los nueve años de mi doctorado, probablemente tomé cursos de matemáticas tales como: análisis matemático (cálculo), álgebra lineal, teoría de probabilidades, estadística, estadística aplicada, análisis numérico, ecuaciones diferenciales ordinarias, ecuaciones diferenciales parciales, diferencial parcial numérica. ecuaciones, etc. Ecuaciones diferenciales, investigación de operaciones, matemáticas discretas, procesos estocásticos, ecuaciones diferenciales parciales estocásticas, álgebra abstracta, funciones de variables reales, análisis funcional, funciones de variables complejas, modelado matemático, topología.
Desde mi proceso de aprendizaje personal, creo que las disciplinas matemáticas que son de ayuda para la aplicación del aprendizaje automático son (de mayor a menor importancia):
1, álgebra lineal (o avanzada álgebra): necesario, todos los algoritmos eventualmente se expresarán en vectorización. El algoritmo es incomprensible si no estás familiarizado con el álgebra lineal.
2. Cálculo: Esta es la base de todas las matemáticas avanzadas, por lo que no entraré en detalles.
3. Estadística: Incluye las bases teóricas de la estadística y la estadística aplicada (principalmente modelos lineales). Gran parte del contenido de aprendizaje automático tiene sus raíces en las estadísticas.
3.5, optimización convexa: agregada por @Xu Wenhao, el motivo es similar al 6.
Los primeros tres sentimientos son condiciones necesarias para aprender bien el aprendizaje automático. El último no es una condición necesaria, pero con una comprensión adecuada también es muy útil:
4. : La teoría de probabilidad básica es suficiente, la teoría de probabilidad avanzada basada en mediciones no es útil para el aprendizaje automático.
5. Análisis numérico: Parte del análisis numérico incluye interpolación, ajuste, soluciones numéricas a varias ecuaciones e integración numérica. Aunque estos consejos no están directamente relacionados con el aprendizaje automático, pueden hacer maravillas en algunos lugares pequeños cuando se trata de problemas complejos. Otra gran parte del análisis numérico es el álgebra lineal numérica, que incluye cómo encontrar la inversa de una matriz, varias descomposiciones de la matriz y valores singulares de las raíces características de la matriz. Muchos de los algoritmos que contiene se utilizarán directamente. mediante caligrafía de aprendizaje automático. Por ejemplo, el análisis de componentes principales llama directamente a SVD.
6. Investigación de operaciones: la investigación de operaciones se trata de optimización. Para decirlo sin rodeos, significa expresar el problema en fórmulas y restricciones matemáticas, y luego encontrar el valor máximo o mínimo. Por lo tanto, muchos algoritmos de optimización avanzados en el aprendizaje automático aparecieron por primera vez en el campo de la logística.
Eso es todo por ahora. En cuanto a los funcionales, las variedades diferenciales y la topología algebraica mencionadas por el interrogador, no necesito saber nada en absoluto.
Editado el 28-04-2015, 26 comentarios, gracias.
Acabo de cambiar de matemáticas a ML. Sabía que alguien debía estar hablando de los "antecedentes básicos" de las matemáticas puras. Hablo de algunos conocimientos reales de geometría diferencial, variedades y topología algebraica.
Siempre que consulte los artículos de investigación relevantes, siempre podrá encontrar la intersección con Ml. Pero eso no significa que tengas que dominarlos. En la mayor parte del aprendizaje de ML, las habilidades básicas de cálculo, álgebra lineal y estadística de probabilidad son las más importantes. No subestimes el cálculo y el álgebra lineal. En muchos casos, la derivación para la investigación todavía requiere muchas habilidades especializadas. En cuanto a otros conocimientos, puedes agregarlos al usarlo.
-
Tema de CSDN:
Qué conocimientos matemáticos se deben aprender para el aprendizaje automático [Pregunta: 20 puntos, barra de publicaciones de hanyahui88]
Colecciona
Presta mucha atención
Asian Asia 88
Ojos grandes y ojos pequeños
Este nivel de versión:
Tasa de perforación de tarjeta: 100%
Número de teléfono original: 2014-10-16 11:07:37.
Algoritmo de análisis de datos matemáticos del aprendizaje automático
Recientemente, la empresa está realizando análisis de datos y nunca antes había estado expuesto a él. He leído todos los algoritmos, muchos de ellos están relacionados con las matemáticas, y no puedo entender muchos símbolos matemáticos, por lo que me parece necesario preguntarme qué matemáticas debo aprender.
Compartir más 0 con:
Sugerencias relacionadas:
Práctica de aplicación de los algoritmos de aprendizaje automático de Alibaba Cloud
Introducción al aprendizaje automático estadístico: Método de remuestreo
Introducción al aprendizaje automático estadístico: clasificación 2
Introducción al aprendizaje automático estadístico: selección y regularización de modelos lineales 2
Útil para mí [ 0]Lanzar bricks[0]Referencia|Informe|Gestión
Número de respuestas: 9
Presta mucha atención
OrthocenterCh...
Kenny_Qin
Este nivel de versión:
#1 Calificación: 3 Respuesta: 2014-10-16 13:18:23.
En cuanto a los algoritmos de aprendizaje automático con los que suelo entrar en contacto, el conocimiento matemático relevante incluye: derivación, gradiente, método multiplicador de Lagrange, dualidad de Lagrange, método de iteración de Newton, etc. El conocimiento matemático es la base. Muchos algoritmos de aprendizaje automático se basan en las matemáticas, pero hay muchos cálculos numéricos que no están particularmente relacionados con las matemáticas discretas. Si desea realizar algoritmos gráficos, las matemáticas discretas son importantes.
Me resulta útil[0]Lanzar ladrillos[0]Referencia|Informe|Gestión
Presta mucha atención
Asianahui 88
Grande ojos y ojitos
Este nivel de versión:
#2 Calificación: 0 Respuesta: 2014-10-17 09:12:48.
Citando la respuesta de Orthocenterc Chocolate en el primer piso: En cuanto a los algoritmos de aprendizaje automático con los que suelo entrar en contacto, el conocimiento matemático relevante es: derivadas, gradientes, método multiplicador de Lagrange, dualidad de Lagrange, Newton. método de iteración, etc. El conocimiento matemático es la base. Muchos algoritmos de aprendizaje automático se basan en las matemáticas, pero hay muchos cálculos numéricos que no están particularmente relacionados con las matemáticas discretas. Si quieres hacer un algoritmo gráfico, es discreto.
Recientemente estoy estudiando el algoritmo de cambio de media. No puedo entender muchas fórmulas en la función del núcleo y no sé qué matemáticas necesito aprender para entender estas fórmulas.
¿Qué significan derivadas, gradientes, métodos multiplicadores de Lagrange, dualidad de Lagrange, métodos de iteración de Newton, etc.?
Me resulta útil[0]Lanzar ladrillos[0]Referencia|Informe|Gestión
Presta mucha atención
Lombulin
Longbulin
Este nivel de versión:
#3 Calificación: 2 Respuesta: 2014-10-17 09:51:41.
Citando la respuesta de hanyahui88 en el segundo piso: Citando: Citando la respuesta de orthocenterc chocolate en el primer piso: En cuanto a los algoritmos de aprendizaje automático con los que suelo entrar en contacto, el conocimiento matemático relevante es: derivada, gradiente, método del multiplicador de Lagrange, dualidad de Lagrange, método de iteración de Newton, etc. El conocimiento matemático es la base. Muchos algoritmos de aprendizaje automático se basan en matemáticas, y muchos más son cálculos numéricos y discretos. Recientemente he estado estudiando el algoritmo de cambio medio. No puedo entender muchas fórmulas en la función del núcleo y no sé qué matemáticas necesito aprender para entender estas fórmulas.
¿Qué significan derivadas, gradientes, métodos multiplicadores de Lagrange, dualidad de Lagrange, métodos de iteración de Newton, etc.?
Parece que no hay nada en el análisis numérico excepto la dualidad lagrangiana.
Me resulta útil[0]Lanzar ladrillos[0]Referencia|Informe|Gestión
Presta mucha atención
OrthocenterCh...
Kenny_Qin
Este nivel de versión:
#4 Calificación: 0 Respuesta: 2014-10-19 21:38:16.
Citando la respuesta de hanyahui88 en el segundo piso: Citando: Citando la respuesta de orthocenterc chocolate en el primer piso: En cuanto a los algoritmos de aprendizaje automático con los que suelo entrar en contacto, el conocimiento matemático relevante es: derivada, gradiente, método del multiplicador de Lagrange, dualidad de Lagrange, método de iteración de Newton, etc. El conocimiento matemático es la base. Muchos algoritmos de aprendizaje automático se basan en matemáticas, y muchos más son cálculos numéricos y discretos. Recientemente he estado estudiando el algoritmo de cambio medio. No puedo entender muchas fórmulas en la función del núcleo y no sé qué matemáticas necesito aprender para entender estas fórmulas.
¿Qué significan derivadas, gradientes, métodos multiplicadores de Lagrange, dualidad de Lagrange, métodos de iteración de Newton, etc.?
Derivación, gradiente, método multiplicador de Lagrange en matemáticas avanzadas, dualidad de Lagrange, método de iteración de Newton. Eche un vistazo a la optimización convexa. De hecho, la optimización convexa debería incluir muchos de los conocimientos matemáticos que desea ver en el aprendizaje automático, pero se basan en algunos conocimientos matemáticos más básicos (como la derivación).
Me resulta útil[0]Lanzar ladrillos[0]Referencia|Informe|Gestión
Presta mucha atención
Asianahui 88
Grande ojos y Ojitos
Este nivel de versión:
#5 Calificación: 0 Respuesta: 2014-10-21 14:40:54.
Citando la respuesta de OrthocenterChocolate en el 4.° piso: Cita: Citando la respuesta de hanyahui88 en el 2.° piso: Citando: Citando la respuesta de OrthocenterChocolate en el 1.° piso: En cuanto a los algoritmos de aprendizaje automático, normalmente entra en contacto, el conocimiento matemático relevante es: Derivadas, gradientes, método multiplicador de Lagrange, dualidad de Lagrange, método de iteración de Newton, etc. , El conocimiento matemático es la base. Muchos algoritmos de aprendizaje automático se basan en las matemáticas, pero hay muchos cálculos numéricos que no están particularmente relacionados con las matemáticas discretas. Si desea realizar algoritmos gráficos, las matemáticas discretas son importantes. Recientemente he estado estudiando el algoritmo de cambio medio. No puedo entender muchas fórmulas en la función del núcleo y no sé qué matemáticas necesito aprender para entender estas fórmulas.
¿Qué significan derivadas, gradientes, métodos multiplicadores de Lagrange, dualidad de Lagrange, métodos de iteración de Newton, etc.? ? En matemáticas avanzadas, método multiplicador de Lagrange, dualidad de Lagrange, método de iteración de Newton, se puede observar la optimización convexa. De hecho, la optimización convexa debería incluir muchos conocimientos matemáticos en el aprendizaje automático que desea ver, pero se basan en conocimientos matemáticos más básicos (como derivados).
En otras palabras, ¿solo nos fijamos en las matemáticas avanzadas y la optimización convexa?
Me resulta útil[0]Lanzar ladrillos[0]Referencia|Informe|Gestión
Presta mucha atención
OrthocenterCh...
Kenny_Qin
Este nivel de versión:
#6 Calificación: 5 Respuesta: 2014-10-23 14:32:40.
Cita de hanyahui88 en el quinto piso: Cita: Cita: Cita: Cita de hanyahui88 en el segundo piso: Cita: Cita: Cita de OrthocenterChocolate en el sexto piso: Tome los algoritmos de aprendizaje automático que suelo usar contacto con. Se dice que el conocimiento matemático relevante incluye: derivadas, gradientes, método multiplicador de Lagrange, dualidad de Lagrange, método de iteración de Newton, etc. El conocimiento matemático es la base. Muchos algoritmos de aprendizaje automático se basan en las matemáticas, pero hay muchos cálculos numéricos que no están particularmente relacionados con las matemáticas discretas. Si desea realizar algoritmos gráficos, las matemáticas discretas son importantes. Recientemente he estado estudiando el algoritmo de cambio medio. No puedo entender muchas fórmulas en la función del núcleo y no sé qué matemáticas necesito aprender para entender estas fórmulas.
¿Qué significan derivadas, gradientes, métodos multiplicadores de Lagrange, dualidad de Lagrange, métodos de iteración de Newton, etc.? ? En matemáticas avanzadas, método multiplicador de Lagrange, dualidad de Lagrange, método de iteración de Newton, se puede observar la optimización convexa. De hecho, la optimización convexa debería incluir muchos conocimientos matemáticos en el aprendizaje automático que desea ver, pero se basan en conocimientos matemáticos más básicos (como derivados).
En otras palabras, ¿solo nos fijamos en las matemáticas avanzadas y la optimización convexa?
Sí, existen algunas operaciones matriciales. Si no estás familiarizado con ellos, echa un vistazo al álgebra lineal. Se recomienda que consultes los que no sabes hacer, en lugar de leerlos todos de antemano, de lo contrario será demasiado.
Me resulta útil[0]Lanzar ladrillos[0]Referencia|Informe|Gestión
Presta mucha atención
q243021856
Marca del Lobo
Este nivel de versión:
#7 Calificación: 5 Respuesta: 2014-10-23 14:58:16.
Cálculo, álgebra lineal, teoría de la probabilidad, matemáticas discretas, estadística
Útil para mí[0]Lanzar ladrillos[0]Referencia|Informe|Gestión
Pago mucha atención
Shao Wei 213
Tracysw
Este nivel de versión:
#8 Puntuación: 5 Respuesta: 2014-10-23 15:38:32
Respuesta del séptimo piso q243021856: Cálculo, álgebra lineal, teoría de la probabilidad, matemáticas discretas, estadística.
Principal
Me resulta útil[0]Lanzar ladrillos[0]Referencia|Informe|Gestión
Presta mucha atención
Asia Asia 88
Ojos grandes y ojos pequeños
Este nivel de versión:
#9 Calificación: 0 Respuesta: 2014-10-28 11:45:36.
Vale, gracias a todos.