Difference between revisions of "Clément Démoulins"
From LRDE
(45 intermediate revisions by the same user not shown) | |||
Line 1: | Line 1: | ||
+ | |||
== Extraire des sous dossiers d'un dépôt git == |
== Extraire des sous dossiers d'un dépôt git == |
||
Exemple, on veut extraire les papiers de Vaucanson du dépôt commun ''lrde-publis''. |
Exemple, on veut extraire les papiers de Vaucanson du dépôt commun ''lrde-publis''. |
||
− | <syntaxhighlight lang="bash |
+ | <syntaxhighlight lang="bash"> |
# Clone du dépôt |
# Clone du dépôt |
||
git clone git@git:lrde-publis.git |
git clone git@git:lrde-publis.git |
||
Line 19: | Line 20: | ||
</syntaxhighlight> |
</syntaxhighlight> |
||
⚫ | |||
− | == Compilation dans ''/lrde/dev'' == |
||
+ | === cron-apt === |
||
− | Compilation classique d'un paquet : |
||
⚫ | |||
− | source /lrde/dev/profile && ./configure CXXFLAGS="-O3" CFLAGS="-O3" --prefix=/lrde/dev/$(uname -m)/stow/$(basename $PWD) && make && make install |
||
⚫ | |||
− | Compilation de gcc : |
||
<syntaxhighlight lang="bash" enclose="div"> |
<syntaxhighlight lang="bash" enclose="div"> |
||
+ | apt-get update; |
||
− | |||
+ | apt-get install -y cron-apt; |
||
⚫ | |||
+ | wget http://sao-paulo.lrde.epita.fr/cluster/files/cron-apt-2-security-upgrade -O /etc/cron-apt/action.d/2-security-upgrade; |
||
+ | wget http://sao-paulo.lrde.epita.fr/cluster/files/cron-apt-security.conf -O /etc/cron-apt/apt-security-upgrade.conf; |
||
</syntaxhighlight> |
</syntaxhighlight> |
||
+ | === LDAP === |
||
⚫ | |||
− | === Déploiement de ma config === |
||
<syntaxhighlight lang="bash" enclose="div"> |
<syntaxhighlight lang="bash" enclose="div"> |
||
apt-get update |
apt-get update |
||
− | apt-get install -y |
+ | apt-get install -y autofs autofs-ldap nslcd libnss-ldapd nfs-common glusterfs-client |
+ | apt-get purge nscd |
||
− | mkdir -p /root/.ssh; |
||
− | + | wget http://sao-paulo.lrde.epita.fr/cluster/files/autofs.default -O /etc/default/autofs; |
|
− | + | wget http://sao-paulo.lrde.epita.fr/cluster/files/autofs.if-up -O /etc/network/if-up.d/autofs; |
|
+ | chmod +x /etc/network/if-up.d/autofs; |
||
⚫ | |||
− | + | wget http://sao-paulo.lrde.epita.fr/cluster/files/ldap.conf -O /etc/ldap/ldap.conf; |
|
− | + | wget http://sao-paulo.lrde.epita.fr/cluster/files/cacert.pem -O /etc/ssl/certs/lrde-cacert.pem; |
|
+ | wget http://sao-paulo.lrde.epita.fr/cluster/files/nsswitch.conf -O /etc/nsswitch.conf; |
||
− | chmod 600 /root/.ssh/id_rsa-dotfiles; |
||
+ | wget http://sao-paulo.lrde.epita.fr/cluster/files/nslcd.conf -O /etc/nslcd.conf; |
||
− | git clone --quiet dotfiles:clement/dotfiles.git /root/.dotfiles; |
||
− | (cd /root/.dotfiles && ./install.sh); |
||
− | chsh root -s /usr/bin/zsh; |
||
</syntaxhighlight> |
</syntaxhighlight> |
||
− | == |
+ | == Docker == |
+ | |||
+ | === Commandes === |
||
+ | |||
+ | ; docker build -t TAG_NAME . |
||
+ | : Construit une image docker à partir d'un Dockerfile |
||
+ | ; docker run -t -i IMAGE CMD |
||
+ | : Démarre un container intéractif à partir d'une image, si aucune commande n'est spécifiée, la commande définie par l'image est exécutée. |
||
+ | ; docker run -d IMAGE |
||
+ | : Démarrage classique d'un container en mode daemon. |
||
+ | ; docker ps -a |
||
+ | : Liste les containers |
||
+ | ; docker images -a |
||
+ | : Liste les images |
||
+ | ; docker rm $(docker ps -a -q) |
||
+ | : Delete all stopped containers |
||
+ | ; docker rmi $(docker images -q) |
||
+ | : Delete ALL images |
||
+ | ; docker rmi $(docker images -q --filter "dangling=true") |
||
+ | : Delete untagged images |
||
+ | |||
+ | === Liens === |
||
+ | |||
+ | * [http://docs.docker.com/reference/commandline/cli/ CLI documentation] |
||
+ | * [http://docs.docker.com/reference/run/ Run documentation] |
||
+ | * [http://docs.docker.com/reference/builder/ Dockerfile syntax] |
||
+ | * [https://registry.hub.docker.com/repos/lrde/ Docker group lrde] |
||
+ | |||
+ | === Outils tiers === |
||
+ | |||
+ | * [https://wiki.archlinux.org/index.php/Systemd-nspawn systemd-nspawn], similaire à docker mais basé sur systemd |
||
+ | * [https://linuxcontainers.org/ LXC], technologie équivalente à docker mais prévu pour "booter" le container |
||
+ | * [https://github.com/coreos/rocket Rocket] |
||
+ | * [https://github.com/docker/swarm/ Swarm], orchestrateur pour docker |
||
+ | * [https://github.com/docker/compose/ Compose], orchestrateur pour docker (≠ de Swarm ?) |
||
+ | * [https://coreos.com/ CoreOS], OS serveur basé sur des containers |
||
+ | |||
+ | |||
+ | == Récupération de disques == |
||
+ | |||
+ | * [http://linuxfr.org/news/ddrescue-dd_rescue-myrescue-recuperer-ses-donnees-apres-un-crash-disque recuperer-ses-donnees-apres-un-crash-disque] |
||
+ | |||
+ | == Paquet Debian == |
||
+ | |||
⚫ | |||
+ | # Création d'une image 'cow' pour jessie |
||
+ | cowbuilder --create --basepath /var/cache/pbuilder/base-jessie.cow --distribution jessie |
||
+ | # Mise à jour |
||
+ | cowbuilder --update --basepath /var/cache/pbuilder/base-jessie.cow --distribution jessie |
||
+ | |||
+ | # Création du paquet avec gbp (si tout va bien) |
||
+ | gbp buildpackage |
||
⚫ | |||
+ | |||
+ | == Ré-encodage vidéo == |
||
+ | |||
+ | <syntaxhighlight lang=bash> |
||
+ | ffmpeg -i "concat:$(echo *.MTS | sed 's/ /|/g')" -c copy raw.mp4 |
||
+ | ffmpeg -i raw.mp4 -codec:v h264_nvenc -gpu 2 -crf 25 -bf 2 -flags +cgop -pix_fmt yuv420p -codec:a aac -strict -2 -b:a 384k -r:a 48000 -movflags faststart output_1080p_crf25.mp4 |
||
+ | </syntaxhighlight> |
Latest revision as of 13:43, 16 July 2020
Extraire des sous dossiers d'un dépôt git
Exemple, on veut extraire les papiers de Vaucanson du dépôt commun lrde-publis.
# Clone du dépôt
git clone git@git:lrde-publis.git
git clone --no-hardlinks lrde-publis vcsn-publis
cd vcsn-publis
# Filtre tout sauf ce qui match la pattern : (\.fsmnlp|\.ciaa|\.poosc|\.vaucanson|\.gitignore|\.gitmodules)$
git filter-branch --prune-empty --index-filter "git rm -r --cached --ignore-unmatch $(git log -p | sed -rne 's/^diff --git a\/([^/]+)\/?.* b\/.*$/\1/ p' | sort -u | egrep -v '(\.fsmnlp|\.ciaa|\.poosc|\.vaucanson|\.gitignore|\.gitmodules)$' | xargs echo)" HEAD
# Nettoyage du dépôt
git remote rm origin
git update-ref -d refs/original/refs/heads/master
git reflog expire --expire=now --all
git repack -ad
Commandes bien pratique de post installation
cron-apt
apt-get update;
apt-get install -y cron-apt;
wget http://sao-paulo.lrde.epita.fr/cluster/files/cron-apt-config -O /etc/cron-apt/config;
wget http://sao-paulo.lrde.epita.fr/cluster/files/cron-apt-2-security-upgrade -O /etc/cron-apt/action.d/2-security-upgrade;
wget http://sao-paulo.lrde.epita.fr/cluster/files/cron-apt-security.conf -O /etc/cron-apt/apt-security-upgrade.conf;
LDAP
apt-get update
apt-get install -y autofs autofs-ldap nslcd libnss-ldapd nfs-common glusterfs-client
apt-get purge nscd
wget http://sao-paulo.lrde.epita.fr/cluster/files/autofs.default -O /etc/default/autofs;
wget http://sao-paulo.lrde.epita.fr/cluster/files/autofs.if-up -O /etc/network/if-up.d/autofs;
chmod +x /etc/network/if-up.d/autofs;
wget http://sao-paulo.lrde.epita.fr/cluster/files/ldap.conf -O /etc/ldap/ldap.conf;
wget http://sao-paulo.lrde.epita.fr/cluster/files/cacert.pem -O /etc/ssl/certs/lrde-cacert.pem;
wget http://sao-paulo.lrde.epita.fr/cluster/files/nsswitch.conf -O /etc/nsswitch.conf;
wget http://sao-paulo.lrde.epita.fr/cluster/files/nslcd.conf -O /etc/nslcd.conf;
Docker
Commandes
- docker build -t TAG_NAME .
- Construit une image docker à partir d'un Dockerfile
- docker run -t -i IMAGE CMD
- Démarre un container intéractif à partir d'une image, si aucune commande n'est spécifiée, la commande définie par l'image est exécutée.
- docker run -d IMAGE
- Démarrage classique d'un container en mode daemon.
- docker ps -a
- Liste les containers
- docker images -a
- Liste les images
- docker rm $(docker ps -a -q)
- Delete all stopped containers
- docker rmi $(docker images -q)
- Delete ALL images
- docker rmi $(docker images -q --filter "dangling=true")
- Delete untagged images
Liens
Outils tiers
- systemd-nspawn, similaire à docker mais basé sur systemd
- LXC, technologie équivalente à docker mais prévu pour "booter" le container
- Rocket
- Swarm, orchestrateur pour docker
- Compose, orchestrateur pour docker (≠ de Swarm ?)
- CoreOS, OS serveur basé sur des containers
Récupération de disques
Paquet Debian
# Création d'une image 'cow' pour jessie
cowbuilder --create --basepath /var/cache/pbuilder/base-jessie.cow --distribution jessie
# Mise à jour
cowbuilder --update --basepath /var/cache/pbuilder/base-jessie.cow --distribution jessie
# Création du paquet avec gbp (si tout va bien)
gbp buildpackage
Ré-encodage vidéo
ffmpeg -i "concat:$(echo *.MTS | sed 's/ /|/g')" -c copy raw.mp4
ffmpeg -i raw.mp4 -codec:v h264_nvenc -gpu 2 -crf 25 -bf 2 -flags +cgop -pix_fmt yuv420p -codec:a aac -strict -2 -b:a 384k -r:a 48000 -movflags faststart output_1080p_crf25.mp4