Publications

2022

• Few-bit Quantization of Neural Networks for Nonlinearity Mitigation in a Fiber Transmission Experiment
  
  • Darweesh Jamal
  • Costa Nelson
  • Napoli Antonio
  • Spinnler Bernhard
  • Jaouën Yves
  • Yousefi Mansoor
  , 2022. A neural network is quantized for the mitigation of nonlinear and components’ distortions in a 16-QAM 9x50km dual-polarization fiber transmission experiment. Post-training additive power-of-two quantization at 6 bits incurs a negligible Q-factor penalty. At 5 bits, the model size is reduced by 85%, with 0.8 dB penalty.
• Learned Digital Back-Propagation for Dual-Polarization Dispersion Managed Systems
  
  • Abu-Romoh Mohannad
  • Costa Nelson
  • Napoli Antonio
  • Spinnler Bernhard
  • Jaouën Yves
  • Yousefi Mansoor
  , 2022. Digital back-propagation (DBP) and learned DBP (LDBP) are proposed for nonlinearity mitigation in WDM dual-polarization dispersion-managed systems. LDBP achieves Q-factor improvement of 1.8 dB and 1.2 dB, respectively, over linear equalization and a variant of DBP adapted to DM systems.
• Learning shape distributions from large databases of healthy organs: applications to zero-shot and few-shot abnormal pancreas detection
  
  • Vétil Rebeca
  • Abi Nader Clément
  • Bône Alexandre
  • Vullierme Marie-Pierre
  • Rohé Marc-Michel
  • Gori Pietro
  • Bloch Isabelle
  , 2022, pp.464-473. We propose a scalable and data-driven approach to learn shape distributions from large databases of healthy organs. To do so, volumetric segmentation masks are embedded into a common probabilistic shape space that is learned with a variational auto-encoding network. The resulting latent shape representations are leveraged to derive zeroshot and few-shot methods for abnormal shape detection. The proposed distribution learning approach is illustrated on a large database of 1200 healthy pancreas shapes. Downstream qualitative and quantitative experiments are conducted on a separate test set of 224 pancreas from patients with mixed conditions. The abnormal pancreas detection AUC reached up to 65.41% in the zero-shot configuration, and 78.97% in the few-shot configuration with as few as 15 abnormal examples, outperforming a baseline approach based on the sole volume. (10.1007/978-3-031-16434-7_45)
  DOI : 10.1007/978-3-031-16434-7_45
• Detection of leaks through exception mechanisms
  
  • Kissi Salim Yahia
  • Seladji Yassamine
  • Ameur-Boulifa Rabéa
  , 2022, pp.1-8. A timing attack is a security exploit that allows an attacker to discover vulnerabilities in the security of a computer or network system by analysing the execution time of algorithms. This is because each operation in a program takes time to be executed, and this time may vary depending on its inputs and the characteristics of the microprocessor on which it runs. With accurate time measurements for each operation, it may be possible for an attacker to discover secrets through the analysis of the execution time of a program. This paper presents an automatable approach for detecting information leakage in programs through timing information. It is based on the Z3-SMT solver. It allows to detect vulnerabilities in a software code according to a given security specification and target architecture. This paper also features some research issues that will be addressed during my thesis. (10.1109/ICAASE56196.2022.9931592)
  DOI : 10.1109/ICAASE56196.2022.9931592
• Automatic Data Augmentation Selection and Parametrization in Contrastive Self-Supervised Speech Representation Learning
  
  • Zaiem Salah
  • Parcollet Titouan
  • Essid Slim
  , 2022, pp.669-673. Contrastive learning enables learning useful audio and speech representations without ground-truth labels by maximizing the similarity between latent representations of similar signal segments. In this framework various data augmentation techniques are usually exploited to help enforce desired invariances within the learned representations, improving performance on various audio tasks thanks to more robust embeddings. Now, selecting the most relevant augmentations has proven crucial for better downstream performances. Thus, this work introduces a conditional independance-based method which allows for automatically selecting a suitable distribution on the choice of augmentations and their parametrization from a set of predefined ones, for contrastive self-supervised pre-training. This is performed with respect to a downstream task of interest, hence saving a costly hyper-parameter search. Experiments performed on two different downstream tasks validate the proposed approach showing better results than experimenting without augmentation or with baseline augmentations. We furthermore conduct a qualitative analysis of the automatically selected augmentations and their variation according to the considered final downstream dataset. (10.21437/interspeech.2022-10191)
  DOI : 10.21437/interspeech.2022-10191
• Optimizing transformations for contrastive learning in a differentiable framework
  
  • Ruppli Camille
  • Gori Pietro
  • Ardon Roberto
  • Bloch Isabelle
  , 2022. Current contrastive learning methods use random transformations sampled from a large list of transformations, with fixed hyperparameters, to learn invariance from an unannotated database. Following previous works that introduce a small amount of supervision, we propose a framework to find optimal transformations for contrastive learning using a differentiable transformation network. Our method increases performances at low annotated data regime both in supervision accuracy and in convergence speed. In contrast to previous work, no generative model is needed for transformation optimization. Transformed images keep relevant information to solve the supervised task, here classification. Experiments were performed on 34000 2D slices of brain Magnetic Resonance Images and 11200 chest X-ray images. On both datasets, with 10% of labeled data, our model achieves better performances than a fully supervised model with 100% labels.
• Potential impact of CV-QKD integration on classical WDM network capacity
  
  • Ware Cédric
  • Aymeric Raphael
  • Zidi Chaima
  • Lourdiane Mounia
  IEEE Photonics Technology Letters, Institute of Electrical and Electronics Engineers, 2022, 34 (18), pp.957-960. Continuous-variable quantum key distribution (CV-QKD) could allow QKD and classical optical signals physically sharing the same optical fibers in existing networks. However, Raman scattering imposes a limit on the optical power, which in turn impacts the network capacity for classical traffic in presence of CV-QKD. Network-planning simulations indicate that maxing out the CV-QKD capacity in an optical link can adversely impact its classical capacity. Although preliminary, these results show that designing a mixed classical and CV-QKD network will require dedicated planning heuristics and tools that specifically seek a compromise between classical and CV-QKD traffics. (10.1109/LPT.2022.3195433)
  DOI : 10.1109/LPT.2022.3195433
• Automated analysis of cohesion in small groups interactions
  
  • Maman Lucien
  , 2022. Over the last decade, a new multidisciplinary research domain named Social Signal Processing (SSP) emerged. It is aimed at enabling machines to sense, recognize, and display human social signals. One of the challenging tasks addressed by SSP is the automated group interaction analysis. Recently, a particular emphasis is given to the automated study of emergent states as they play an important role in group dynamics. These are social processes that develop throughout group members' interactions.In this Thesis, we address the automated analysis of cohesion in small groups interactions. Cohesion is a multidimensional affective emergent state that can be defined as a dynamic process reflected by the tendency of a group to stick together to pursue goals and/or affective needs. Despite the rich literature available on cohesion from a Social Sciences perspective, its automated analysis is still in its infancy. Grounding on Social Sciences' insights, this Thesis aims to develop computational models of cohesion following four axes research axes, leveraging Machine Learning and Deep Learning techniques. Computational models of cohesion, indeed, should account for the temporal nature of cohesion, the multidimensionality of this group process, take into account how to model cohesion from both individuals and group perspectives, integrate the relationships between its dimensions and their development over time, and take heed of the relationships between cohesion and other group processes.In addition, facing a lack of publicly available data, this Thesis contributed to the collection of a multimodal dataset specifically designed for studying group cohesion and for explicitly controlling its variations over time. Such a dataset enables, among other perspectives, further development of computational models integrating the perceived cohesion from group members and/or external points of view. Our results show the relevance of leveraging Social Sciences' insights to develop new computational models of cohesion and confirm the benefits of exploring each of the four research axes.
• High-speed free-space transmission at room temperature with an RF-mounted quantum cascade laser emitting in the long-wave infrared domain
  
  • Spitz Olivier
  • Guillaume-Manca Alice
  • Yang Ke
  • Didier Pierre
  • Liu Junqi
  • Awwad Elie
  • Grillot Frederic
  , 2022, pp.1-2. (10.1109/RAPID54472.2022.9911607)
  DOI : 10.1109/RAPID54472.2022.9911607
• Relative intensity noise of injection-locked epitaxial quantum dot laser on silicon
  
  • Chu Qi
  • Zhao Shiyuan
  • Grillot Frédéric
  • Wang Jiawei
  • He Feng
  • Zhang Mingyu
  • Xu Xiaochuan
  • Yao Yong
  • Duan Jianan
  , 2022, pp.59-60. This work investigates the relative intensity noise (RIN) characteristics of quantum dot (QD) lasers epitaxially grown on silicon subject to the optical injection. The effect of threading dislocation (TD), which acts as nonradiative recombination centers in the Shockley-Read-Hall (SRH) process, is considered in the rate equation model. The results reveal that the RIN is enhanced by decreasing the nonradiative recombination lifetime. It is shown that this high RIN characteristics is suppressed by the optical injection. In the stable injection-locked area, the RIN is reduced down to - 168 dB/Hz by adjusting the injection ratio and frequency detuning. This work provides an effective method for designing low RIN lasers for photonics integrated circuits (PICs) on silicon. (10.1109/NUSOD54938.2022.9894812)
  DOI : 10.1109/NUSOD54938.2022.9894812
• « La connaissance réduit l'incertitude » : un théorème ?
  
  • Rioul Olivier
  , 2022. En suivant une approche axiomatique, on dérive ici la formulation mathématique correspondante de la notion intuitive de mesure d'« incertitude » en relation avec l’entropie. Puis, grâce à la notion de conditionnement probabiliste, on démontre rigoureusement qu’en moyenne, la connaissance réduit l’incertitude. Mais une connaissance donnée réduit-elle toujours l’incertitude ?
• Long-range QKD without trusted nodes is not possible with current technology
  
  • Huttner Bruno
  • Alléaume Romain
  • Diamanti Eleni
  • Fröwis Florian
  • Grangier Philippe
  • Hübel Hannes
  • Martin Vicente
  • Poppe Andreas
  • Slater Joshua
  • Spiller Tim
  • Tranier Benoit
  • Wonfor Adrian
  • Zbinden Hugo
  npj Quantum Information, Nature, 2022, 8, pp.108. (10.1038/s41534-022-00613-4)
  DOI : 10.1038/s41534-022-00613-4
• Factorisation Non-Négative de Matrice pour séparation de sources en Imagerie par Bioluminescence préclinique
  
  • Dereure Erwan
  • Angelini Elsa
  • Garofalakis Anikitos
  • Seguin Johanne
  • Mignet Nathalie
  • Olivo-Marin Jean-Christophe
  , 2022. L'imagerie par bioluminescence est une technologie d'imagerie optique basée sur la détection de photons produits par une réaction biologique entre un substrat et une enzyme dans les tissus vivants. Cette technique d'imagerie, peu bruitée, est utilisée dans de nombreux domaines de la recherche biomédicale et notamment en oncologie préclinique. Le flux de photons émis par une tumeur est lié à son volume et son état métabolique, nécessitant une localisation précise de celle-ci. Dans ce travail, nous étudions l'utilisation de la décomposition factorielle par Factorisation Non-Négative de Matrice (Non-Negative Matrix Factorization, NMF) comme méthode de localisation de tumeurs sans a priori spatial.
• Efficient Prior Publication Identification for Open Source Code
  
  • Serafini Daniele
  • Zacchiroli Stefano
  , 2022. Free/Open Source Software (FOSS) enables large-scale reuse of preexisting software components. The main drawback is increased complexity in software supply chain management. A common approach to tame such complexity is automated open source compliance, which consists in automating the verication of adherence to various open source management best practices about license obligation fulllment, vulnerability tracking, software composition analysis, and nearby concerns. We consider the problem of auditing a source code base to determine which of its parts have been published before, which is an important building block of automated open source compliance toolchains. Indeed, if source code allegedly developed in house is recognized as having been previously published elsewhere, alerts should be raised to investigate where it comes from and whether this entails that additional obligations shall be fullled before product shipment. We propose an ecient approach for prior publication identication that relies on a knowledge base of known source code artifacts linked together in a global Merkle direct acyclic graph and a dedicated discovery protocol. We introduce swh-scanner, a source code scanner that realizes the proposed approach in practice using as knowledge base Software Heritage, the largest public archive of source code artifacts. We validate experimentally the proposed approach, showing its eciency in both abstract (number of queries) and concrete terms (wall-clock time), performing benchmarks on 16 845 real-world public code bases of various sizes, from small to very large.
• Apprentissage autosupervisé pour le despeckling d'images SAR avec MERLIN : application aux images Sentinel-1 Stripmap
  
  • Dalsasso Emanuele
  • Denis Loïc
  • Tupin Florence
  , 2022. Les fluctuations dues au phénomène de chatoiement sont un frein à l'interprétation des images acquises par un Radar à Synthèse d'Ouverture (RSO, aussi appelé SAR en anglais). Pour faciliter l'utilisation de ces images pour l'observation de la Terre, il est important de réduire le chatoiement. Nous décrivons ici MERLIN, une nouvelle méthode permettant d'entraîner de manière auto-supervisée un réseau neuronal convolutif pour la réduction de chatoiement exploitant la décomposition d'une image SAR complexe en partie réelle et imaginaire. Nous présentons l'adaptation de ce cadre aux images Sentinel-1 acquises en mode Stripmap.
• La véritable (et méconnue) théorie de l'information de Shannon
  
  • Rioul Olivier
  • Béguinot Julien
  • Rabiet Victor
  • Souloumiac Antoine
  , 2022, pp.908. Claude Shannon, qui a posé les bases de la célèbre théorie de l’information en 1948, préférait parler de théorie de la communication. Dans un article de 1953, il a proposé une nouvelle approche de l’information et de sa structure en treillis. Cela n’a étonnamment eu qu’un très faible écho. Nous rappelons brièvement les traits principaux de cette théorie et les caractéristiques qui pourraient en expliquer l’oubli, et nous envisageons enfin les développements intéressants qu’elle pourrait susciter.
• A propos du MIMO massif dans un contexte de sobriété numérique
  
  • Ciblat Philippe
  , 2022. Nous étudions l'apport possible de la technique du MIMO massif d'un point de vue énergétique lors de l'introduction d'une nouvelle génération de téléphonie mobile. Nous montrons que l'intérêt est flagrant seulement si les énergies durant la phase d'usage sont considérées. En revanche, en prenant en compte uniquement la phase de fabrication, l'intérêt dépend fortement de l'évolution de trafic envisagé (frugalité ou expansion) et aussi de la durée de renouvellement d'une génération. A titre d'exemple, avec une croissance de trafic de 10% par an, le renouvellement doit intervenir au bout de 12 ans. Sans croissance de trafic, l'impact de l'installation d'une génération plus efficace énergétiquement durant la phase d'usage et donc à base de MIMO massif est négatif.
• Allocation de puissance pour un système de communication par satellite à faisceaux multiples exploitant les effets non linéaires
  
  • Louchart Arthur
  • Ciblat Philippe
  • Poulliat Charly
  , 2022. Dans le contexte des communications montantes par satellite à faisceaux multiples, nous donnons une expression analytique du débit de données, dans le cas d'un récepteur exploitant les effets non linéaires liés à l'amplificateur de puissance. Nous proposons ensuite plusieurs problèmes d'allocations de puissance, tels que la maximisation de la somme des débits du système, en utilisant le cadre de la programmation signomiale. Nous montrons un gain significatif par rapport à l'allocation effectuée en utilisant uniquement l'interférence non linéaire.
• Vers une transmission vidéo sans latence par l'extrapolation d'images
  
  • Vijayaratnam Melan
  • Cagnazzo Marco
  • Valenzise Giuseppe
  • Trioux Anthony
  • Kieffer Michel
  , 2022. Ces dernières années, plusieurs efforts ont été consacrés à la réduction des différentes sources de latence dans la transmission vidéo, notamment l'acquisition, le codage et la transmission réseau. L'objectif est d'améliorer la qualité d'expérience dans les applications nécessitant une interaction en temps réel. Néanmoins, ces efforts sont fondamentalement contraints par des limites technologiques et physiques. Dans cet article, nous étudions une approche radicalement différente qui peut réduire arbitrairement la latence globale au moyen de l'extrapolation vidéo. Nous proposons deux schémas de compensation de latence dans lesquels l'extrapolation vidéo est effectuée soit au niveau de l'encodeur, soit au niveau du décodeur. Puisqu'une perte de fidélité est le prix à payer pour compenser arbitrairement la latence, nous étudions le compromis latence-fidélité en utilisant trois schémas de prédiction vidéo récents. Nos résultats préliminaires montrent qu'en acceptant une perte de qualité, nous pouvons compenser une latence typique de 100 ms avec une perte de 8 dB en PSNR avec le meilleur extrapolateur. Cette approche est prometteuse mais suggère également que des travaux supplémentaires doivent être réalisés dans le domaine de la prédiction vidéo afin de poursuivre la transmission vidéo sans latence.
• Adaptive Online Domain Incremental Continual Learning
  
  • Gunasekara Nuwan
  • Gomes Heitor Murilo
  • Bifet Albert
  • Pfahringer Bernhard
  , 2022, 13529, pp.491--502. Continual Learning (CL) problems pose significant challenges for Neural Network (NN)s. Online Domain Incremental Continual Learning (ODI-CL) refers to situations where the data distribution may change from one task to another. These changes can severely affect the learned model, focusing too much on previous data and failing to properly learn and represent new concepts. Conversely, if a model constantly forgets previously learned knowledge, it may be deemed too unstable and unsuitable. This work proposes Online Domain Incremental Pool (ODIP), a novel method to cope with catastrophic forgetting. ODIP also employs automatic concept drift detection and does not require task ids during training. ODIP maintains a pool of learners, freezing and storing the best one after training on each task. An additional Task Predictor (TP) is trained to select the most appropriate NN from the frozen pool for prediction. We compare ODIP against regularization methods and observe that it yields competitive predictive performance. (10.1007/978-3-031-15919-0_41)
  DOI : 10.1007/978-3-031-15919-0_41
• LabSAR, a one-GCP coregistration tool for SAR–InSAR local analysis in high-mountain regions
  
  • Weissgerber Flora
  • Charrier Laurane
  • Thomas Cyril
  • Nicolas Jean-Marie
  • Trouvé Emmanuel
  Frontiers in Remote Sensing, Frontiers Media, 2022, 3. The coregistration of single-look complex (SLC) SAR images for InSAR or offset tracking applications is often performed by using an accurate DEM and precise orbital information. However, in cold regions, such DEMs are rare over high-latitude areas or not up-to-date over fast melting glaciers for instance. To overcome this difficulty, we propose in this article a coregistration method preserving InSAR phase information that only requires a 3D point of reference instead of a full DEM. Developed in a Python toolbox called LabSAR, the proposed method only uses orbital information to coregister the images on the sphere centered on the Earth center passing by the ground control point (GCP). Thanks to the use of the orbital information, the so-called orbital fringes are compensated without having to estimate them. This coregistration method is compared to other approaches in two different types of applications, InSAR and offset tracking, on a PAZ Dual-Pol Temporal Stack covering the Mont Blanc massif (western European Alps). First, InSAR measurements from LabSAR are compared with the results of the Sentinel-1 ESA toolbox (SNAP). The LabSAR interferograms exhibit clearer topographical fringes, with fewer parameters to set. Second, offset tracking based on LabSAR coregistated images is used to measure the displacement of the Bossons glacier. The results are compared with those obtained by a conventional approach developed in the EFIDIR tools. By evaluating the uncertainties of both approaches using displacements over stable areas and the temporal closure error, similar uncertainty values are found. However, velocity values differ between the two approaches, especially in areas where the altitudes are different from the altitude of the reference point. The difference can reach up to 0.06 m/day, which is in the range of the glacier velocity measurement uncertainty given in the literature. The impact of the altitude of the reference point is limited: this single GCP can be chosen at the median altitude of the study area. The error margin on the knowledge of this altitude is 1,000 m, which is sufficient for the altitude to be considered as known for a wide range of study area in the world. (10.3389/frsen.2022.935137)
  DOI : 10.3389/frsen.2022.935137
• Apprentissage mono-image contraint pour la super-résolution
  
  • Chatillon Pierrick
  • Gousseau Yann
  • Lefebvre Sidonie
  , 2022. Les méthodes basées sur l'apprentissage profond pour la super-résolution (SR) ont été récemment l'objet de nombreux travaux. En particulier, plusieurs articles ont montré que l'étape d'apprentissage peut être effectuée sur une seule image (approches dites internes). La méthode SinGAN est l'une de ces contributions, où la distribution des patchs de l'image est apprise sur l'image en entrée et propagée à des échelles plus fines. Il existe des situations dans lesquelles des a priori statistiques peuvent être supposés pour l'image finale. En particulier, de nombreux phénomènes naturels produisent des images ayant un spectre de Fourier décroissant selon une loi de puissance, comme les nuages et autres images de texture. Dans cet article, nous montrons comment de telles informations a priori peuvent être intégrées dans une approche de super-résolution interne, en contraignant la procédure d'échantillonnage de SinGAN. Nous démontrons par diverses expériences que ces contraintes sont effectivement satisfaites, mais aussi que certaines mesures de qualité peuvent être améliorées par l'approche proposée.
• Le Réseau U-Net Exploite-t-il des Relations Directionnelles Entre Objets pour les Segmenter et les Reconnaître ?
  
  • Riva Mateus
  • Gori Pietro
  • Yger Florian
  • Bloch Isabelle
  , 2022.
• Impact de perturbations internes sur l'entraînement de réseaux profonds pour la détection d'évènements sonores
  
  • Perera David
  • Essid Slim
  • Richard Gael
  , 2022. L'apprentissage d'invariants est une méthode d'entraînement prometteuse pour les réseaux de neurones profonds, puisqu'elle permet à la fois de pallier le manque de diversité des bases de données disponibles, et de rendre les modèles entraînés plus interprétables. En pratique, l'apprentissage d'invariants passe souvent par l'utilisation d'augmentations de données et de coûts de consistance pénalisant la sensibilité d'un modèle à ces augmentations. Il n'existe cependant pas de consensus concernant la sélection de ces augmentations pour une tâche cible. Cet article étudie l'impact de plusieurs types d'augmentations sur l'entraînement d'un modèle de l'état de l'art, dans le cadre de la détection et de la classification d'évènements sonores. Nous montrons en particulier que la perturbation des représentations internes d'un réseau de neurones profond est bénéfique pour cette tâche.
• Estimation paramétrique
  
  • Rioul Olivier
  , 2022, pp.154. Cet ouvrage traite d'estimation paramétrique, à un niveau accessible à des étudiants de Licence ou de Master. Il intéressera également les candidats aux concours d'enseignement (CAPES, Agrégation, etc.). Quelques connaissances de base en probabilités sont nécessaires pour aborder ce cours, dont la progression permet de se familiariser facilement avec les notions fondamentales en vue de leurs applications pratiques. On s'attache ici à présenter un cadre mathématique le plus simple possible pour comprendre les idées essentielles de l'estimation, aussi bien dans le cadre classique fréquentiste que bayesien. Après avoir établi la notion de modèle statistique et les critères importants, on définit le score et l'information de Fisher pour esquisser la théorie des estimateurs de variance minimale. On aborde ensuite le principe du maximum de vraisemblance avec des propriétés asymptotiques, avant de particulariser au cas pratiques d'estimateurs linéaires ou aux moindres carrés. Dans le cadre bayesien, on compare les estimateurs MMSE, MAP et ML, ainsi que les estimateurs bayesiens linéaires. De nombreux exemples et exercices avec indications et contextes historiques viennent consolider les notions développées.