SQWareProduction:cassandra

De WikiFr_dbSQWare
Aller à : navigation, rechercher

Presentation

Utilisation

C'est le module d'exploitation local de cassandra.
Il est entierement ecrit en ksh et sql.
Il permet les operations d'exploitation pour cassandra.
Exemples d'utilisations de l'outil:

  • Backup
  • Recovery
  • Compute statistics
  • Indicators collection to store in referential database SQWareRepository
  • Rotate logs
  • ....

This module is deployed locally on the machine hosting the authorities to manage, in order to avoid any points of weakness related to an NFS mount or whatever. The deployment is done through a simple command SQWareCentral module using inventory located in SQWareRepository !
Guide d'installation de SQWareProduction pour cassandra

Explication des repertoires

Repertoires se trouvant dans $gvsqw_CasBin:

  • bin : Repertoires contenant standard scripts
  • bin_cust : Repertoires contenant customs scripts for your environnement
  • etc : Repertoires contenant the standard files of configuration
  • etc_cust : Repertoires contenant the customs files of configuration for your environnement (overload standards)
  • help : Repertoires contenant the standard files of help
  • help_cust : Repertoires contenant the customs files of help for your environnement
  • lib : Repertoires contenant the generic shell function librairies
  • lib_cust : Repertoires contenant the generic shell function librairies (overload standards)
  • spm : Contain sql query toolkit
  • tools : Repertoires contenant the standard scripts used on an ad hoc
  • tools_cust : Repertoires contenant the customs scripts used on an ad hoc for your environnement
  • menu : Repertoires contenant the standard menus
  • menu_cust : Repertoires contenant the custom menus for your environnement
Attention.png
Warning:
Ne modifiez pas les scripts standards et les fichiers de configuration de dbSQWare.

Utilisez les répertoires *_cust pour les customisations. 'Cela facilitera les mises à jour de version' .


Convention de nommage de fichiers

La majorite des fichiers sont nommes avec suffixes:

  • *.ksh : pour les scripts
  • *.cfg : pour les fichiers de configuration
  • *.lib : pour les librairies de fonctions
  • *.hlp : pour les fichiers d'aide
Attention.png
Warning:
Ne modifiez pas les scripts standards et les fichiers de configuration de dbSQWare.

Utilisez les répertoires *_cust pour les customisations. 'Cela facilitera les mises à jour de version' .


Convention de nommage dans les scripts

En général, la convention de nommage suivante est utilisée dans tous les scripts de SQWareProduction:

  • gvsqw_ {}: variable globale initialisée par l'environnement et/ou la lib générique
  • lvsqw_ {}: variable locale initialisée par le script et/ou une lib spécifique
  • gfsqw_ {}: fonction définie par une lib générique
  • lfsqw_ {}: fonction définie par le script et/ou une lib spécifique

bin

sqwcas_Backup.ksh

Script $gvsqw_CasBin/bin/sqwcas_Backup.ksh:

Execute une sauvegarde sur tous les noeuds Voir l'aide detaillee pour sqwcas_Backup.ksh

sqwcas_CentralisedNodetool.ksh

Script $gvsqw_CasBin/bin/sqwcas_CentralisedNodetool.ksh:

Execute une commande nodetool sur tous les nodes selectionnes en parallele
Vous devez choisir les options de nodetool a executer
Vous pouvez aussi choisir:

  • Aggressivite de lancement (nombre de secondes entre deux lancements)
  • Aggressivite de check de fin (nombre de secondes entre deux check de fin)
  • Scope d'execution (defaut: Local)


** Local => seulement le node local
** LocalNode => seulement le node local
** Node_$NodeName => seulement sur le node '$NodeName'
** LocalDC => tous les nodes sur local datacenter
** DC_$DCName => tous les nodes sur datacenter '$DCName'
** All => tous les nodes sur cluster(tous les datacenters)
** AllNodes => tous les nodes sur cluster(tous les datacenters)
** AllDC => tous les nodes sur cluster(tous les datacenters)

  • Force la decouverte dynamique des nodes (par defaut, cherche dans $gvsqw_RootCfg/CAS_CHR_PRD.clucfg genere par sqwcas_GenNodesConf.ksh)

Voir l'aide detaillee pour sqwcas_CentralisedNodetool.ksh

sqwcas_ExecSQL.ksh

Script $gvsqw_CasBin/bin/sqwcas_ExecSQL.ksh:

execute un fichier SQL sur l'instance Voir l'aide detaillee pour sqwcas_ExecSQL.ksh

sqwcas_FailWithoutMail.ksh

Script $gvsqw_CasBin/bin/sqwcas_FailWithoutMail.ksh:

Voir l'aide detaillee pour sqwcas_FailWithoutMail.ksh

sqwcas_GatherIndicators.ksh

Script $gvsqw_CasBin/bin/sqwcas_GatherIndicators.ksh:

Collecte les indicateurs Cassandra et les met dans SQWareRepository
Resume de collecte:

  • Volumetrie de l'instance
  • Volumetrie des nodes
  • Volumetrie des keyspaces (par node et global)
  • Volumetrie des column familly (par node et global)
  • Volumetrie (use, free) des FS
  • Version, options, configuration, ... de l'instance

Voir l'aide detaillee pour sqwcas_GatherIndicators.ksh

sqwcas_NetBackup.ksh

Script $gvsqw_CasBin/bin/sqwcas_NetBackup.ksh:

backup avec NetBackup des fichiers dump/backup Voir l'aide detaillee pour sqwcas_NetBackup.ksh

sqwcas_ParallelRun.ksh

Script $gvsqw_CasBin/bin/sqwcas_ParallelRun.ksh:

Gere l'execution de commandes unix en parallele
Prend en parametre un fichier avec les commandes a executer
Vous pouvez choisir:

  • Le degre de parallelisme
  • Aggressivite de lancement (nombre de secondes entre deux lancements)
  • Aggressivite de check de fin (nombre de secondes entre deux check de fin)


Voir l'aide detaillee pour sqwcas_ParallelRun.ksh

sqwcas_RollingRestart.ksh

Script $gvsqw_CasBin/bin/sqwcas_RollingRestart.ksh:

Execute 'stop/start/restart' cassandra sur les nodes selectione Voir l'aide detaillee pour sqwcas_RollingRestart.ksh

sqwcas_RunJob.ksh

Script $gvsqw_CasBin/bin/sqwcas_RunJob.ksh:

Execute les scripts pour Cassandra et genere les fichiers log et erreur
base sur le fichier de configuration $gvsqw_RootCfg/sqwcas_Jobs.cfg
compresse et purge les logs les plus anciennes Voir l'aide detaillee pour sqwcas_RunJob.ksh


etc

sqwcas_CreInst_CrontabRef.cfg

Fichier de configuration $gvsqw_CasBin/../etc/sqwcas_CreInst_CrontabRef.cfg:


Voir l'aide detaillee pour sqwcas_CreInst_CrontabRef.cfg

sqwcas_CreInst_Jobs.cfg

Fichier de configuration $gvsqw_CasBin/../etc/sqwcas_CreInst_Jobs.cfg:


Voir l'aide detaillee pour sqwcas_CreInst_Jobs.cfg

sqwcas_GlobalVar.cfg

Fichier de configuration $gvsqw_CasBin/../etc/sqwcas_GlobalVar.cfg:
Global var for Cassandra
Contient les variables operationnelles de SQWareProduction.

Information.png
Information:
Vous pouvez surcharger les variables contenues dans $gvsqw_CasBin/../etc/sqwcas_GlobalVar.cfg

en mettant les memes noms de variables dans $gvsqw_CasBin/../etc_cust/sqwcas_GlobalVar.cfg pour tous vos environnements
ou dans $HOME/sqwConfig/sqwcas_GlobalVar.cfg pour cet utilisateur specialement.

Voir l'aide detaillee pour sqwcas_GlobalVar.cfg

.profile

Exemple de .profile $gvsqw_CasBin/../etc/.profile:
Exemple de lignes a ajouter au .profile pour les users cassandra.
Voir l'aide detaillee pour .profile

.profile_confort

Fichier pour mettre les aliases $gvsqw_CasBin/../etc/.profile_confort:
Contenu des aliases de confort de SQWareProduction pour cassandra.
Modèle:SQWareProductionSurchargeConfort
Voir l'aide detaillee pour .profile_confort


lib

sqwcas_Backup.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_Backup.lib:
lib for sqwcas_Backup.ksh

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_Backup.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_Backup.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_Backup.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_Backup.lib

sqwcas_CentralisedNodetool.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_CentralisedNodetool.lib:
lib for sqwcas_CentralisedNodetool.ksh

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_CentralisedNodetool.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_CentralisedNodetool.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_CentralisedNodetool.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_CentralisedNodetool.lib

sqwcas_GatherIndicators.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_GatherIndicators.lib:
lib for sqwcas_GatherIndicators.ksh

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_GatherIndicators.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_GatherIndicators.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_GatherIndicators.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_GatherIndicators.lib

sqwcas_GatherIndicators_Overload.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_GatherIndicators_Overload.lib:
lib for overLoad sqwcas_GatherIndicators.ksh

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_GatherIndicators_Overload.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_GatherIndicators_Overload.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_GatherIndicators_Overload.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_GatherIndicators_Overload.lib

sqwcas_GenerateCreateInstance.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_GenerateCreateInstance.lib:
lib for generate create instance

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_GenerateCreateInstance.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_GenerateCreateInstance.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_GenerateCreateInstance.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_GenerateCreateInstance.lib

sqwcas_GenNodesConf.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_GenNodesConf.lib:
lib for sqwcas_GenNodesConf.ksh

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_GenNodesConf.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_GenNodesConf.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_GenNodesConf.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_GenNodesConf.lib

sqwcas_Global.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_Global.lib:
central lib of generic fonctions for cassandra

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_Global.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_Global.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_Global.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_Global.lib

sqwcas_NetBackup.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_NetBackup.lib:
lib for sqwgen_NetBackup.ksh

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_NetBackup.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_NetBackup.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_NetBackup.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_NetBackup.lib

sqwcas_RollingRestart.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_RollingRestart.lib:
lib for sqwcas_RollingRestart.ksh

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_RollingRestart.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_RollingRestart.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_RollingRestart.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_RollingRestart.lib

sqwcas_SetEnv.lib

librairies de fonctions shell $gvsqw_CasBin/../lib/sqwcas_SetEnv.lib:
fonction to set env for $CAS_SID

Information.png
Information:
Vous pouvez surcharger les fonctions contenues dans $gvsqw_CasBin/../lib/sqwcas_SetEnv.lib

en redeclarant une fonction du meme nom $gvsqw_CasBin/../lib_cust/sqwcas_SetEnv.lib pour tous les environnements
ou dans $HOME/sqwConfig/sqwcas_SetEnv.lib specifiquement pour ce user .


Voir l'aide detaillee pour sqwcas_SetEnv.lib


menu

sqwcas_GenNodesConf.ksh

Menu $gvsqw_CasBin/../menu/sqwcas_GenNodesConf.ksh:
Generate conf files for all node in the cluster (nodes list by DC) Voir l'aide detaillee pour sqwcas_GenNodesConf.ksh


tools

sqwcas_Crypt.ksh

Script $gvsqw_CasBin/../tools/sqwcas_Crypt.ksh:
Generic script to crypt file with openssl Voir l'aide detaillee pour sqwcas_Crypt.ksh

sqwcas_GenerateCreateInstance.ksh

Script $gvsqw_CasBin/../tools/sqwcas_GenerateCreateInstance.ksh:
Generate create instance files Voir l'aide detaillee pour sqwcas_GenerateCreateInstance.ksh

sqwcas_ListAsyncFilesGlobal.ksh

Script $gvsqw_CasBin/../tools/sqwcas_ListAsyncFilesGlobal.ksh:
List Async files (sql, log, mail) to upload in SQWareCentral (all in a directory) Voir l'aide detaillee pour sqwcas_ListAsyncFilesGlobal.ksh

sqwcas_ListAsyncFiles.ksh

Script $gvsqw_CasBin/../tools/sqwcas_ListAsyncFiles.ksh:
List Async files (sql, log, mail) to upload in SQWareCentral Voir l'aide detaillee pour sqwcas_ListAsyncFiles.ksh

sqwcas_SetEnv.ksh

Script $gvsqw_CasBin/../tools/sqwcas_SetEnv.ksh:
set env for $CAS_SID
Modèle:SQWareProductionSurchargeToo Voir l'aide detaillee pour sqwcas_SetEnv.ksh

sqwcas_TestMySQL.ksh

Script $gvsqw_CasBin/../tools/sqwcas_TestMySQL.ksh:
Generic test MySQL connection script Voir l'aide detaillee pour sqwcas_TestMySQL.ksh

sqwcas_TestSendmail.ksh

Script $gvsqw_CasBin/../tools/sqwcas_TestSendmail.ksh:
Generic test sendmail script Voir l'aide detaillee pour sqwcas_TestSendmail.ksh

sqwcas_Uncrypt.ksh

Script $gvsqw_CasBin/../tools/sqwcas_Uncrypt.ksh:
Generic script to uncrypt file with openssl Voir l'aide detaillee pour sqwcas_Uncrypt.ksh


help

Contenu des fichiers d'aide pour l'option "-s" des scripts bin.


spm

Outil de requetes SQL
Voir l'aide detaillee pour spm