{"id":3686,"date":"2017-09-22T13:45:58","date_gmt":"2017-09-22T17:45:58","guid":{"rendered":"http:\/\/bioinfo.iric.ca\/?p=3686\/"},"modified":"2017-09-22T13:45:58","modified_gmt":"2017-09-22T17:45:58","slug":"une-semaine-dapprentissage-profond","status":"publish","type":"post","link":"https:\/\/bioinfo.iric.ca\/fr\/une-semaine-dapprentissage-profond\/","title":{"rendered":"Une semaine d&rsquo;apprentissage profond"},"content":{"rendered":"<p>Du 21 au 25 ao\u00fbt se tenait la toute premi\u00e8re \u00e9dition de l&rsquo;<a href=\"http:\/\/ivado.ca\/formations\/ecole-dete-francophone-apprentissage-profond\/\">\u00c9cole d&rsquo;\u00e9t\u00e9 francophone en apprentissage profond<\/a> donn\u00e9e par IVADO et le MILA. Le but de cette semaine \u00e9tait de \u00ab\u00a0[donner aux] participants les bases th\u00e9oriques et pratiques n\u00e9cessaires \u00e0 comprendre le domaine [de l&rsquo;apprentissage profond] \u00ab\u00a0.<\/p>\n<p>Quelques membres de la plateforme et moi-m\u00eame avons particip\u00e9 \u00e0 ces cinq jours de formation.<\/p>\n<p><a href=\"https:\/\/bioinfo.iric.ca\/wpbioinfo\/wp-content\/uploads\/2017\/09\/TB010-Deep-Neural-Network.jpg\"><img decoding=\"async\" class=\"alignnone wp-image-3721 size-full\" src=\"https:\/\/bioinfo.iric.ca\/wpbioinfo\/wp-content\/uploads\/2017\/09\/TB010-Deep-Neural-Network.jpg\" alt=\"\" width=\"780\" height=\"578\" srcset=\"https:\/\/bioinfo.iric.ca\/wpbioinfo\/wp-content\/uploads\/2017\/09\/TB010-Deep-Neural-Network-200x148.jpg 200w, https:\/\/bioinfo.iric.ca\/wpbioinfo\/wp-content\/uploads\/2017\/09\/TB010-Deep-Neural-Network-300x222.jpg 300w, https:\/\/bioinfo.iric.ca\/wpbioinfo\/wp-content\/uploads\/2017\/09\/TB010-Deep-Neural-Network-400x296.jpg 400w, https:\/\/bioinfo.iric.ca\/wpbioinfo\/wp-content\/uploads\/2017\/09\/TB010-Deep-Neural-Network-600x445.jpg 600w, https:\/\/bioinfo.iric.ca\/wpbioinfo\/wp-content\/uploads\/2017\/09\/TB010-Deep-Neural-Network-768x569.jpg 768w, https:\/\/bioinfo.iric.ca\/wpbioinfo\/wp-content\/uploads\/2017\/09\/TB010-Deep-Neural-Network.jpg 780w\" sizes=\"(max-width: 780px) 100vw, 780px\" \/><\/a><\/p>\n<p>Je dois \u00eatre bien honn\u00eate, l&rsquo;apprentissage profond me faisait un peu peur les premi\u00e8res fois que j&rsquo;ai \u00e9t\u00e9 expos\u00e9e au sujet. Je trouvais le concept fascinant, mais je me butais rapidement \u00e0 un beau gros mur lorsque venait le temps de concr\u00e9tiser le tout (en d&rsquo;autre terme, coder). Puis, tranquillement, je me suis mouill\u00e9e les pieds. J&rsquo;ai commenc\u00e9 avec des descentes de gradient pour ensuite aller vers des algorithmes un peu plus pointilleux. \u00a0Je suis m\u00eame all\u00e9e jusqu&rsquo;\u00e0 jouer avec un petit r\u00e9seau \u00e0 convolution. Tout \u00e7a pour dire que j&rsquo;ai surmont\u00e9 ma r\u00e9ticence premi\u00e8re et que j&rsquo;\u00e9tais bien heureuse de pouvoir participer \u00e0 une semaine de formation donn\u00e9e par le MILA\/IVADO.<\/p>\n<p>Le niveau des blocs d&rsquo;enseignement \u00e9tait, selon moi, une petite coche au dessus du niveau <em>D\u00e9butant: <\/em>pas trop pouss\u00e9, mais juste assez pour faire aller nos neurones (le jeu de mot est fait!). Je n&rsquo;ai jamais suivi de cours sur le sujet de l&rsquo;apprentissage profond. \u00a0J&rsquo;ai beaucoup appr\u00e9ci\u00e9 me faire enseigner les bases de cette fa\u00e7on. C&rsquo;est d&rsquo;ailleurs la raison principale de mon inscription \u00e0 l&rsquo;\u00e9cole d&rsquo;\u00e9t\u00e9. \u00a0Je suis satisfaite de ce que j&rsquo;ai pu en tirer et recommande l&rsquo;exp\u00e9rience \u00e0 tout ceux qui aimeraient aborder le sujet.<\/p>\n<p>Selon moi, un des points forts de la semaine \u00e9tait les blocs \u00ab\u00a0En pratique\u00a0\u00bb. Ces courts blocs de 15-20 minutes \u00e9taient pure application! Ce que j&rsquo;ai particuli\u00e8rement appr\u00e9ci\u00e9 \u00e9tait la hi\u00e9rarchie des sujets pr\u00e9sent\u00e9s: en d\u00e9but de semaine nous parlions des donn\u00e9es (m\u00e9gadonn\u00e9es) et des bioblioth\u00e8ques \u00e0 utiliser; puis \u00e0 la fin de la semaine, nous explorions des outils utilisant l&rsquo;apprentissage profond dans le domaine m\u00e9dical (par exemple, la reconnaissance de polypes malins et b\u00e9nins) et les ressources mises \u00e0 la disposition des <em>startups<\/em>.<\/p>\n<p>Pour terminer, voici quelques concepts cl\u00e9s et grandes lignes que j&rsquo;ai retenus. Peut-\u00eatre qu&rsquo;ils vous seront utiles \u00e0 vous aussi!<\/p>\n<ul>\n<li class=\"li1\"><span class=\"s2\">Un indice pour d\u00e9terminer si l&rsquo;apprentissage profond est ad\u00e9quat pour notre probl\u00e9matique : \u00a0y a-t-il du flou entourant la r\u00e9ponse que l&rsquo;on recherche ? Si oui, l&rsquo;apprentissage profond pourrait nous aider; si non, il existe peut \u00eatre d\u00e9j\u00e0 des r\u00e8gles formalis\u00e9es.<\/span><\/li>\n<li>Toujours garder en t\u00eate que s<span class=\"s2\">i le probl\u00e8me est compliqu\u00e9, le r\u00e9seau risque de l\u2019\u00eatre tout autant.<\/span><\/li>\n<li class=\"li1\"><span class=\"s2\">Essayer de voir les donn\u00e9es en terme de valeur plut\u00f4t que de quantit\u00e9&#8230; Bien qu&rsquo;il faut avoir quand m\u00eame beaucoup de donn\u00e9es!<\/span><\/li>\n<li>Garder en t\u00eate qu&rsquo;il n&rsquo;est pas toujours \u00e9vident d&rsquo;obtenir\u00a0<em>les<\/em> param\u00e8tres optimaux g\u00e9n\u00e9rant la plus petite erreur: il peut \u00eatre acceptable de chercher \u00e0 avoir une minimisation approximative.<\/li>\n<li>Bien qu&rsquo;il n&rsquo;existe pas <em>une<\/em> bonne valeur universelle pour le pas de gradient (<em>learning rate<\/em>), une estimation premi\u00e8re est la d\u00e9riv\u00e9e seconde maximale de notre \u00e9quation.<\/li>\n<li>Lorsque l&rsquo;on valide un r\u00e9seau, bien r<span class=\"s2\">egarder les exemples qui donnent des erreurs plus grandes; il peut \u00eatre aussi bien de \u00ab\u00a0casser\u00a0\u00bb le r\u00e9seau pour bien comprendre ce qui se passe.<\/span><\/li>\n<li style=\"list-style-type: none;\"><\/li>\n<li>Lorsque l&rsquo;on commence en apprentissage profond, utiliser des mod\u00e8les pr\u00e9-fabriqu\u00e9s en ligne et\/ou commencer en imitant le code d&rsquo;experts (fouiller sur GitHub); il est aussi int\u00e9ressant de s&rsquo;amuser et de tester diff\u00e9rents outils\/approches sur <a href=\"https:\/\/www.kaggle.com\/\">des jeux de donn\u00e9es de divers provenances<\/a>.<\/li>\n<\/ul>\n<p>Tel que mentionn\u00e9 plus haut, je recommande cette exp\u00e9rience! N&rsquo;ayez surtout pas peur d&rsquo;essayer quelque chose de nouveau, aussi effrayant que cela puisse sembler aux premiers abords \ud83d\ude09<\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Du 21 au 25 ao\u00fbt se tenait la toute premi\u00e8re \u00e9dition de l&rsquo;\u00c9cole d&rsquo;\u00e9t\u00e9 francophone en apprentissage profond donn\u00e9e par IVADO et le MILA. Le but de cette semaine \u00e9tait de \u00ab\u00a0[donner aux] participants les bases th\u00e9oriques et pratiques n\u00e9cessaires \u00e0 comprendre le domaine [de l&rsquo;apprentissage profond] \u00ab\u00a0. Quelques membres de la plateforme et moi-m\u00eame avons particip\u00e9 \u00e0 ces cinq jours de formation. Je dois \u00eatre bien honn\u00eate, l&rsquo;apprentissage profond me faisait un peu peur les premi\u00e8res fois que j&rsquo;ai <a href=\"https:\/\/bioinfo.iric.ca\/fr\/une-semaine-dapprentissage-profond\/\"> [&#8230;]<\/a><\/p>\n","protected":false},"author":11,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[85,160],"tags":[],"class_list":["post-3686","post","type-post","status-publish","format-standard","hentry","category-apprentissage-automatique","category-informatique-fr"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/posts\/3686","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/comments?post=3686"}],"version-history":[{"count":15,"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/posts\/3686\/revisions"}],"predecessor-version":[{"id":3723,"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/posts\/3686\/revisions\/3723"}],"wp:attachment":[{"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/media?parent=3686"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/categories?post=3686"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bioinfo.iric.ca\/fr\/wp-json\/wp\/v2\/tags?post=3686"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}