err.no Git - linux-2.6/blob - arch/x86/kernel/ldt_64.c

   1 /*
   2  * Copyright (C) 1992 Krishna Balasubramanian and Linus Torvalds
   3  * Copyright (C) 1999 Ingo Molnar <mingo@redhat.com>
   4  * Copyright (C) 2002 Andi Kleen
   5  *
   6  * This handles calls from both 32bit and 64bit mode.
   7  */
   8
   9 #include <linux/errno.h>
  10 #include <linux/sched.h>
  11 #include <linux/string.h>
  12 #include <linux/mm.h>
  13 #include <linux/smp.h>
  14 #include <linux/vmalloc.h>
  15 #include <linux/slab.h>
  16
  17 #include <asm/uaccess.h>
  18 #include <asm/system.h>
  19 #include <asm/ldt.h>
  20 #include <asm/desc.h>
  21 #include <asm/mmu_context.h>
  22
  23 #ifdef CONFIG_SMP
  24 static void flush_ldt(void *null)
  25 {
  26         if (current->active_mm)
  27                 load_LDT(&current->active_mm->context);
  28 }
  29 #endif
  30
  31 static int alloc_ldt(mm_context_t *pc, int mincount, int reload)
  32 {
  33         void *oldldt, *newldt;
  34         int oldsize;
  35
  36         if (mincount <= pc->size)
  37                 return 0;
  38         oldsize = pc->size;
  39         mincount = (mincount + 511) & (~511);
  40         if (mincount * LDT_ENTRY_SIZE > PAGE_SIZE)
  41                 newldt = vmalloc(mincount * LDT_ENTRY_SIZE);
  42         else
  43                 newldt = kmalloc(mincount * LDT_ENTRY_SIZE, GFP_KERNEL);
  44
  45         if (!newldt)
  46                 return -ENOMEM;
  47
  48         if (oldsize)
  49                 memcpy(newldt, pc->ldt, oldsize * LDT_ENTRY_SIZE);
  50         oldldt = pc->ldt;
  51         memset(newldt + oldsize * LDT_ENTRY_SIZE, 0,
  52                (mincount - oldsize) * LDT_ENTRY_SIZE);
  53         wmb();
  54         pc->ldt = newldt;
  55         wmb();
  56         pc->size = mincount;
  57         wmb();
  58
  59         if (reload) {
  60 #ifdef CONFIG_SMP
  61                 cpumask_t mask;
  62
  63                 preempt_disable();
  64                 load_LDT(pc);
  65                 mask = cpumask_of_cpu(smp_processor_id());
  66                 if (!cpus_equal(current->mm->cpu_vm_mask, mask))
  67                         smp_call_function(flush_ldt, NULL, 1, 1);
  68                 preempt_enable();
  69 #else
  70                 load_LDT(pc);
  71 #endif
  72         }
  73         if (oldsize) {
  74                 if (oldsize * LDT_ENTRY_SIZE > PAGE_SIZE)
  75                         vfree(oldldt);
  76                 else
  77                         kfree(oldldt);
  78         }
  79         return 0;
  80 }
  81
  82 static inline int copy_ldt(mm_context_t *new, mm_context_t *old)
  83 {
  84         int err = alloc_ldt(new, old->size, 0);
  85
  86         if (err < 0)
  87                 return err;
  88         memcpy(new->ldt, old->ldt, old->size * LDT_ENTRY_SIZE);
  89         return 0;
  90 }
  91
  92 /*
  93  * we do not have to muck with descriptors here, that is
  94  * done in switch_mm() as needed.
  95  */
  96 int init_new_context(struct task_struct *tsk, struct mm_struct *mm)
  97 {
  98         struct mm_struct *old_mm;
  99         int retval = 0;
 100
 101         mutex_init(&mm->context.lock);
 102         mm->context.size = 0;
 103         old_mm = current->mm;
 104         if (old_mm && old_mm->context.size > 0) {
 105                 mutex_lock(&old_mm->context.lock);
 106                 retval = copy_ldt(&mm->context, &old_mm->context);
 107                 mutex_unlock(&old_mm->context.lock);
 108         }
 109         return retval;
 110 }
 111
 112 /*
 113  * Don't touch the LDT register - we're already in the next thread.
 114  */
 115 void destroy_context(struct mm_struct *mm)
 116 {
 117         if (mm->context.size) {
 118                 if (mm->context.size * LDT_ENTRY_SIZE > PAGE_SIZE)
 119                         vfree(mm->context.ldt);
 120                 else
 121                         kfree(mm->context.ldt);
 122                 mm->context.size = 0;
 123         }
 124 }
 125
 126 static int read_ldt(void __user *ptr, unsigned long bytecount)
 127 {
 128         int err;
 129         unsigned long size;
 130         struct mm_struct *mm = current->mm;
 131
 132         if (!mm->context.size)
 133                 return 0;
 134         if (bytecount > LDT_ENTRY_SIZE * LDT_ENTRIES)
 135                 bytecount = LDT_ENTRY_SIZE * LDT_ENTRIES;
 136
 137         mutex_lock(&mm->context.lock);
 138         size = mm->context.size * LDT_ENTRY_SIZE;
 139         if (size > bytecount)
 140                 size = bytecount;
 141
 142         err = 0;
 143         if (copy_to_user(ptr, mm->context.ldt, size))
 144                 err = -EFAULT;
 145         mutex_unlock(&mm->context.lock);
 146         if (err < 0)
 147                 goto error_return;
 148         if (size != bytecount) {
 149                 /* zero-fill the rest */
 150                 if (clear_user(ptr + size, bytecount - size) != 0) {
 151                         err = -EFAULT;
 152                         goto error_return;
 153                 }
 154         }
 155         return bytecount;
 156 error_return:
 157         return err;
 158 }
 159
 160 static int read_default_ldt(void __user *ptr, unsigned long bytecount)
 161 {
 162         /* Arbitrary number */
 163         /* x86-64 default LDT is all zeros */
 164         if (bytecount > 128)
 165                 bytecount = 128;
 166         if (clear_user(ptr, bytecount))
 167                 return -EFAULT;
 168         return bytecount;
 169 }
 170
 171 static int write_ldt(void __user *ptr, unsigned long bytecount, int oldmode)
 172 {
 173         struct mm_struct *mm = current->mm;
 174         __u32 entry_1, entry_2;
 175         int error;
 176         struct user_desc ldt_info;
 177
 178         error = -EINVAL;
 179         if (bytecount != sizeof(ldt_info))
 180                 goto out;
 181         error = -EFAULT;
 182         if (copy_from_user(&ldt_info, ptr, sizeof(ldt_info)))
 183                 goto out;
 184
 185         error = -EINVAL;
 186         if (ldt_info.entry_number >= LDT_ENTRIES)
 187                 goto out;
 188         if (ldt_info.contents == 3) {
 189                 if (oldmode)
 190                         goto out;
 191                 if (ldt_info.seg_not_present == 0)
 192                         goto out;
 193         }
 194
 195         mutex_lock(&mm->context.lock);
 196         if (ldt_info.entry_number >= mm->context.size) {
 197                 error = alloc_ldt(&current->mm->context,
 198                                   ldt_info.entry_number + 1, 1);
 199                 if (error < 0)
 200                         goto out_unlock;
 201         }
 202
 203         /* Allow LDTs to be cleared by the user. */
 204         if (ldt_info.base_addr == 0 && ldt_info.limit == 0) {
 205                 if (oldmode || LDT_empty(&ldt_info)) {
 206                         entry_1 = 0;
 207                         entry_2 = 0;
 208                         goto install;
 209                 }
 210         }
 211
 212         entry_1 = LDT_entry_a(&ldt_info);
 213         entry_2 = LDT_entry_b(&ldt_info);
 214         if (oldmode)
 215                 entry_2 &= ~(1 << 20);
 216
 217         /* Install the new entry ...  */
 218 install:
 219         write_ldt_entry(mm->context.ldt, ldt_info.entry_number, entry_1,
 220                         entry_2);
 221         error = 0;
 222
 223 out_unlock:
 224         mutex_unlock(&mm->context.lock);
 225 out:
 226         return error;
 227 }
 228
 229 asmlinkage int sys_modify_ldt(int func, void __user *ptr,
 230                               unsigned long bytecount)
 231 {
 232         int ret = -ENOSYS;
 233
 234         switch (func) {
 235         case 0:
 236                 ret = read_ldt(ptr, bytecount);
 237                 break;
 238         case 1:
 239                 ret = write_ldt(ptr, bytecount, 1);
 240                 break;
 241         case 2:
 242                 ret = read_default_ldt(ptr, bytecount);
 243                 break;
 244         case 0x11:
 245                 ret = write_ldt(ptr, bytecount, 0);
 246                 break;
 247         }
 248         return ret;
 249 }